Übersicht der Risiken
Bias / Diskriminierung
KI-Systeme können auch Bias / Diskriminierung in Bildungseinrichtungen verstärken, indem sie bestehende Ungleichheiten und Vorurteile reproduzieren.
Geschützte Daten
Der Einsatz von KI in der Bildung birgt Risiken für den Datenschutz und die Sicherheit geschützter Daten, da persönliche Informationen von Lernenden, Studierenden und Lehrenden gefährdet sein könnten.
Halluzinationen
Halluzinationen sind ein Risiko, das beim Einsatz von KI auftreten kann, wenn KI-Systeme falsche oder ungenaue Informationen erzeugen.
Nachvollziehbarkeit
Eine fehlende Nachvollziehbarkeit von KI-Entscheidungen kann ein Risiko darstellen, das Anwender:innen bei der Interpretation der Ergebnisse betrifft.
Plagiate
Die Verwendung von KI-Technologien kann auch das Risiko von Plagiaten erhöhen, da Schüler möglicherweise versucht sind, KI-Systeme zu verwenden, um ihre Arbeiten oder Prüfungsantworten zu erstellen.