«Wir überlegen, ein LLM-basiertes System für die Beantwortung von Elternanfragen per E-Mail einzusetzen (automatische Vorschläge für Antworten, die von Mitarbeitenden geprüft werden).»
Primär die Verwaltung (Zeitersparnis). Sekundär die Eltern (schnellere Antworten). Der LLM-Anbieter profitiert ökonomisch und durch Daten (je nach Vertragsbedingungen). ⚪
Eltern, die nicht wissen, dass ihre Anfrage von einer KI vorverarbeitet wird. Mitarbeitende, deren Formulierungsspielraum durch Vorschläge eingeengt werden könnte (Automation Bias). Honneth-Perspektive: Eltern erwarten von der Schule persönliche Anerkennung ihrer Anliegen — eine KI-generierte Antwort kann diese Anerkennung simulieren, ohne sie zu leisten. ⚪
Sprach-Bias — das System wird Anfragen in standarddeutschem Hochdeutsch besser verarbeiten als solche in fehlerhaftem Deutsch, Schweizerdeutsch oder Fremdsprachen. Honneth-Bezug: Systematische Missachtung durch Nicht-Verstehen. Gerade jene Eltern, die am meisten Unterstützung brauchen, werden am schlechtesten bedient. ⚪ (ohne Tests am konkreten System nicht verifizierbar)
- (a) Mehrsprachige Textbausteine ohne KI
- (b) FAQ-System auf der Webseite
- (c) Status quo mit priorisierten Antwortzeiten
- (d) KI nur für interne Kategorisierung, menschliche Antwort bleibt vollständig in Mitarbeitenden-Hand ⚪
Ja — insbesondere wegen Sprach-Bias, Transparenz gegenüber Eltern und Automation Bias. Human-in-the-Loop ist positiv, aber nicht ausreichend, wenn die Mitarbeitenden unter Zeitdruck die KI-Vorschläge systematisch übernehmen.
AI-Act-Kategorie: 🟡 (begrenztes Risiko — Transparenzpflicht). ⚪
Grundsätzlich sinnvoller Anwendungsfall, aber drei Bedingungen vor Einführung:
- Transparenz gegenüber Eltern
- Sprach-Bias-Test mit realen Anfragen
- Schulung der Mitarbeitenden zu Automation Bias
Hinweis: Diese Bewertung basiert überwiegend auf ⚪-Schätzungen und erfordert Validierung durch einen Pilotbetrieb.