Die EU-Kommission hat jüngst ethische Leitlinien zur Nutzung von Künstlicher Intelligenz für Lehrkräfte herausgegeben. Sie sind ein nützliches Arbeitsinstrument bei der Einführung und Verwendung von KI. Und sie kommen keinesfalls zu früh.
Künstliche Intelligenz (KI) ist zwar schon lange ein Thema – auch in der Weiterbildung. Doch seit Ende letzten Jahres das US-amerikanische Unternehmen Open AI seine Plattform ChatGPT öffentlich zugänglich gemacht hat, ist die Diskussion um KI in allen möglichen Kreisen regelrecht entbrannt. Denn ChatGPT ist nicht irgendein interaktives textbasiertes Dialogsystem mehr. Seine Fähigkeiten gehen weit darüber hinaus, was Chatbots bisher konnten.
ChatGPT liefert Antworten auf alle möglichen Fragen, wobei diese mitunter überraschend brillant und kreativ ausfallen. ChatGPT kann überdies ganze Texte schreiben oder Business-Pläne analysieren, E-Mails beantworten oder Programm-Codes erstellen. Er kann Rechenaufgaben lösen und Prüfungen bestehen – und das für jede und jeden. Der Bot ist so gut, dass sein Einsatz an Schulen in den USA bereits verboten wurde, um Missbrauch vorzubeugen.
Liebäugeln mit KI
Zu den regelmässigen Nutzern von ChatGPT gehört auch Jeff Maggioncalda, CEO der Online-Lernplattform Coursera. Er tauscht sich nicht nur täglich mit der KI aus und lässt seine E-Mails von ihr beantworten. Maggioncalda hält sie – der Risiken durchaus bewusst – für einen stimulierenden Sparringspartner, um die eigenen kognitiven Fähigkeiten zu fördern, wie er CNN anvertraute. Es überrascht nicht, dass er KI zu einem wesentlichen Bestandteil von Coursera machen möchte und dabei unter anderem an die Möglichkeit denkt, das Lernen für Personen, die keinen Zugang zu Präsenzunterricht oder Fachpersonen haben, flexibler zu gestalten.
Der CEO wird nicht der einzige Betreiber einer Weiterbildungsplattform sein, der über den Einsatz von KI nachdenkt. Umso mehr stellt sich die Frage, welchen Regeln die Anwendung von KI in der Bildung unterworfen sein soll.
EU-Kommission erlässt Leitlinien
Genau darauf fokussiert die Europäische Kommission. Sie hat ebenfalls Ende letzten Jahres Ethische Leitlinien zur Nutzung von KI für Lehrkräfte herausgegeben. Sie sollen dabei helfen, das Potenzial von KI-Anwendungen und Datennutzung in der Bildung zu verstehen und das Bewusstsein für die möglichen Risiken zu schärfen. Geplant ist ein europaweiter Einsatz der Leitlinien an Schulen, aber natürlich auch in Einrichtungen der Weiterbildung.
Um Leitlinien bekannt zu machen, veranstaltet die EU-Kommission verschiedene Veranstaltungen, so etwa im Rahmen des European Digital Education Hub. Dieser organisierte im Januar einen Online-Workshop, um einerseits die Leitlinien vorzustellen, andererseits konkrete Beispiele von KI im Lernumfeld zu demonstrieren.
Arbeitsinstrument für den konkreten Alltag
Die Leitlinien, die in allen europäischen Sprachen als Download zur Verfügung stehen, sind kein starres Regelwerk. Sie sind viel eher ein Arbeitsinstrument, das eine Einführung und Nutzung von KI im Bildungsumfeld begleiten soll. Es beginnt mit einer Definition von KI und erörtert gängige Fehleinschätzungen. Beispiele für die Verwendung von KI werden ebenso aufgeführt wie die Kernanforderungen an eine vertrauenswürdige KI.
Das Herzstück der Leitlinien sind allerdings konkrete Fragestellungen, die Bildungsinstitutionen und Lehrkräfte sowohl bei der Beschaffung und Implementierung einer KI anwenden können, wie auch in der konkreten Nutzung von Systemen. Es handelt sich um sieben Themenkomplexe, die dazu führen sollen, ein KI-System als «zuverlässig, fair, sicher und vertrauenswürdig» zu erkennen und zu verstehen, «ob die Verwaltung von Bildungsdaten sicher ist, ob das System die Privatsphäre des Einzelnen schützt und es dem Gemeinwohl dient».
Es geht dabei um:
- Den Vorrang menschlichen Handelns und die menschliche Aufsicht
- Transparenz
- Vielfalt, Nichtdiskriminierung und Fairness
- Gesellschaftliches und ökologisches Wohlergehen
- Datenschutz und Datenqualitätsmanagement
- Technische Robustheit und Sicherheit
- Rechenschaftspflicht
Zum richtigen Zeitpunkt
KI ist Realität und wird den Weg in Bildungsinstitutionen finden – wenn sie noch nicht dort angekommen ist. Sie bietet viele Vorteile und trägt unter anderem zu einer weiteren Flexibilisierung und Individualisierung von Bildung bei. Aber Risiken wie Missbrauch und Datenverlust sind nicht kleinzureden. Angesichts der technischen Entwicklungen kommen die ethischen Leitlinien zur Nutzung von KI denn auch keineswegs zu früh.
Grafik: Europäische Kommission