Ein Grossteil der Weiterbildungsanbieter sieht ethische Risiken, wenn es um den Einsatz von KI geht. Das zeigt die FOCUS-Studie des SVEB. Wie sie dennoch einen vertretbaren Umgang mit KI pflegen k\u00f6nnen, erkl\u00e4rt Expertin Insa Reichow.<\/p>\n\n\n\n
Gem\u00e4ss den Ergebnissen der Anbieterumfrage 2024 des SVEB gehen 60 Prozent der Schweizer Weiterbildungsanbieter davon aus, dass KI ethische Risiken f\u00fcr die Weiterbildung mit sich bringt. Stimmen Sie dieser Einsch\u00e4tzung zu? Wenn ja, welche ethischen Risiken sehen Sie beim Einsatz von KI in der (Weiter-)Bildung?<\/em><\/strong> Sie sprechen sich f\u00fcr einen \u00abethisch unbedenklichen Einsatz von KI\u00bb im Bereich der Bildung aus. Was bedeutet das genau?<\/em><\/strong> Welche Schritte kann eine Weiterbildungsorganisation unternehmen, um KI ethisch vertretbar einzusetzen?<\/em><\/strong> Dr. Insa Reichow arbeitet seit Juni 2021 als Senior Researcher im Educational Technology Lab des Deutschen Forschungszentrums f\u00fcr K\u00fcnstliche Intelligenz (DFKI). Sie hat Kognitionswissenschaften und Lehr-Lern-Forschung studiert und beforscht nun Einsatz und Wirkung von KI-basierten Technologien (z.B. Chatbots, adaptive Lernplattformen) in Bildungsprozessen u.a. im Metavorhaben der BMBF-F\u00f6rderlinie <\/strong>INVITE<\/strong><\/a> (Digitale Plattform berufliche Weiterbildung).<\/strong><\/em><\/p>\n\n\n\n
Die Frage in der Anbieterumfrage ist sehr allgemein gestellt. Da \u00abKI\u00bb nicht n\u00e4her definiert ist, k\u00f6nnen wir nur mutmassen, was sich die Befragten jeweils unter \u00abKI\u00bb vorgestellt haben: Die Verwendung von Sprachmodellen zur Unterst\u00fctzung beim Erstellen von Unterrichtsentw\u00fcrfen? Bildgeneratoren zur Bebilderung von Lehrmaterialien? Ein Empfehlungssystem, das passende Online-Weiterbildungen empfiehlt? Ein KI-basiertes System f\u00fcr die automatische Auswahl von Bewerberinnen und Bewerbern? Sicherlich unterscheidet sich die Einsch\u00e4tzung ethischer Risiken allein in diesen Szenarien sehr deutlich voneinander. Um m\u00f6gliche ethische Risiken sinnvoll einzusch\u00e4tzen, m\u00fcssen wir uns daher auf konkrete Technologien in konkreten Anwendungsf\u00e4llen beziehen. Um ethische Risiken n\u00e4her zu bestimmen, k\u00f6nnen Frameworks helfen. Diese zeigen auf, welche ethischen Aspekte bei KI-Technologien h\u00e4ufig eine Rolle spielen. Die Hochrangige Expertengruppe f\u00fcr KI der Europ\u00e4ischen Kommission definierte beispielsweise \u00abFairness\u00bb, \u00abErkl\u00e4rbarkeit\u00bb, \u00abSchadensverh\u00fctung\u00bb und \u00abAchtung der menschlichen Autonomie\u00bb als Grunds\u00e4tze vertrauensw\u00fcrdiger KI-Systeme und definiert weitere sieben Kernanforderungen, wie \u00abTransparenz\u00bb und \u00abtechnische Robustheit und Sicherheit\u00bb. Zu diesen recht allgemeinen Anforderungen kommen noch ethische Prinzipien, die insbesondere im Bildungsbereich eine besondere Rolle spielen, beispielsweise, dass der Technologieeinsatz der F\u00f6rderung von Bildungsgerechtigkeit oder dem Erreichen konkreter Bildungsziele dient. Dass der Bildungsbereich ein sensibler Bereich ist, in dem wir besondere Vorsicht walten lassen sollten, spiegelt sich auch in der KI-Verordnung der Europ\u00e4ischen Union wider. Die KI-Verordnung soll bestimmte KI-Technologien EU-weit regulieren und w\u00e4hlt daf\u00fcr einen risikobasierten Ansatz. Der Bildungsbereich ist dabei ein Hochrisikobereich, der Anbietern von Bildungstechnologien besondere Pflichten abverlangt, bevor diese Systeme \u00fcberhaupt in die breite Nutzung kommen d\u00fcrfen. Neben unserem eigenen ethischen Kompass, den wir nutzen k\u00f6nnen, um Technologien zu hinterfragen, wird es also zuk\u00fcnftig innerhalb der Europ\u00e4ischen Union auch rechtliche Auflagen geben. Insgesamt zeigen diese Entwicklungen rund um die KI-Verordnung, die stetig wachsende Zahl an Ethik-Leitlinien und auch die Ergebnisse der Anbieterumfrage, dass wir f\u00fcr das Thema Ethik sensibilisiert sind. Die Wahrnehmung, dass ethische Risiken bestehen, f\u00fchrt im besten Falle dazu, dass wir die zur Verf\u00fcgung stehenden Technologien kritisch pr\u00fcfen, Massnahmen ergreifen, um ihren Einsatz vertretbar zu gestalten \u2013 oder bestimmte Technologien oder Einsatzzwecke eben auch informiert ablehnen.<\/p>\n\n\n\n
Technologien, die g\u00e4nzlich frei von ethischen Bedenken f\u00fcr alle Beteiligten sind \u2013 von den Entwicklerinnen \u00fcber die Produzenten bis zu den Endnutzerinnen \u2013 gibt es nicht. Vielleicht w\u00e4re daher hier \u00abethisch vertretbar\u00bb die bessere Formulierung. Eine Pr\u00fcfung auf ethische Vertretbarkeit umfasst dabei gesellschaftliche, soziale, kulturelle und wertebasierte Aspekte, die zwar (noch) nicht Teil der offiziellen Rechtsprechung, jedoch zentral f\u00fcr eine zuverl\u00e4ssige und tragf\u00e4hige Ausgestaltung technischer Systeme sind. Dies sind solche Aspekte wie die oben angesprochenen, z.B. Transparenz und Fairness. Ein \u00abethisch vertretbarer\u00bb Einsatz einer Technologie setzt voraus, dass sich all diese m\u00f6glichen ethischen Aspekte f\u00fcr den konkreten Einsatzzweck \u00fcberhaupt bewusst gemacht wurden. Dazu m\u00fcssen die verschiedenen Akteure, ob das Lehrende, Lernende, Weiterbildungsanbieter oder Arbeitgeber sind, miteinander sprechen. Wer profitiert wie von der Nutzung einer Technologie? Was sind m\u00f6gliche, auch langfristige, Nachteile einer Nutzung f\u00fcr unseren Bildungskontext? Sehen wir beispielsweise, dass bestimmte Personengruppen an einem Tool nicht teilhaben k\u00f6nnen? Bef\u00fcrchten wir, dass unsere Lernenden nicht mehr autonom \u00fcber ihre eigenen Bildungsverl\u00e4ufe entscheiden, wenn Algorithmen automatisiert immer die vermeintlich besten Lernpfade vorgeben? Das sind einige der Fragen, die man miteinander spezifisch f\u00fcr die jeweilige Technologie ausdiskutieren muss. Wir haben in diesem Zusammenhang gute Erfahrungen mit dem MEESTAR-Modell gemacht. MEESTAR ist ein Modell zur ethischen Evaluation sozio-technischer Arrangements. Das Modell wurde im Kontext Pflege und alters gerechte Assistenzsysteme entwickelt, ist aber gut f\u00fcr Technologien im Bildungsbereich adaptierbar. In \u00fcblicherweise zweit\u00e4gigen Workshops werden ethische Herausforderungen und Dimensionen einer Technologie in der Tiefe herausgearbeitet und m\u00f6gliche Handlungsoptionen f\u00fcr die weitere Projekt- bzw. Technologieentwicklung abgeleitet. Manche der zahlreichen ethischen Fragestellungen lassen sich sicherlich nicht vorab kl\u00e4ren und ebenso soll mein Pl\u00e4doyer f\u00fcr die ethische Debatte nicht bedeuten, dass man alles zerreden und nichts mehr ausprobieren soll. Ganz im Gegenteil: Oft braucht es den praktischen Einsatz in der Bildungsrealit\u00e4t, um zu sehen, was eine Technologie tats\u00e4chlich bewirkt. Wenn die verschiedenen ethischen Aspekte f\u00fcr verschiedene Akteursgruppen reflektiert wurden, Massnahmen ergriffen wurden, um Risiken m\u00f6glichst zu minimieren und man gemeinsam zu dem Schluss kommt, dass der Einsatz einer Technologie in einem bestimmten Bildungsbereich sinnvoll ist, dann w\u00fcrde ich diesen Einsatz f\u00fcr ethisch vertretbar halten.<\/p>\n\n\n\n
Weiterbildungsorganisationen sollten einerseits die Rechtslage im Blick behalten. Insbesondere Weiterbildungsorganisationen, die innerhalb der Europ\u00e4ischen Union t\u00e4tig sind, sollten beobachten, wie die tats\u00e4chliche Umsetzung der KI-Verordnung erfolgt und welche Pflichten sich aus der KI-Verordnung f\u00fcr die Organisation selbst ergeben (Stichwort: Ausbildung von KI-Kompetenz). Es ist denkbar, dass sich einige Aspekte der KI-Verordnung auch in der Schweiz als Standard etablieren. Andererseits gibt es neben diesem rechtlich-bindenden Bereich den frei zu gestaltenden Bereich der Ethik. Leider bleibt f\u00fcr ethische Reflexionen in der Gesch\u00e4ftigkeit des Alltags oft wenig Raum. Das gemeinsame Diskutieren, das Verst\u00e4ndigen \u00fcber ethische Prinzipien und das Einbeziehen verschiedener Fachhintergr\u00fcnde ben\u00f6tigt Zeit und einen dezidierten Ort. Ich kann sehr empfehlen, dass sich Weiterbildungsorganisationen die Zeit einr\u00e4umen, um spezifische Ethik-Workshops durchzuf\u00fchren. Also mehrst\u00fcndige Diskussionsrunden einplanen, in denen Vertreterinnen und Vertreter verschiedener Stakeholdergruppen zusammenkommen, sich dar\u00fcber verst\u00e4ndigen, welche ethischen Aspekte f\u00fcr den eigenen Kontext eigentlich relevant sind und einmal gemeinsam reflektieren, wo der geplante Technologieeinsatz kritisch sein k\u00f6nnte. Danach kann man gemeinsam \u00fcberlegen, welche Massnahmen ergriffen werden k\u00f6nnen, um diese kritischen Aspekte etwas zu schm\u00e4lern. Wir haben f\u00fcr solche Ethik-Workshops bislang das MEESTAR-Modell (s.o.) als Ausgangspunkt genutzt. Und keine Angst: Man muss kein Ethikstudium absolviert haben, um solche ethischen Reflexionen durchzuf\u00fchren. Der gesunde Menschenverstand und vor allem das Wissen um die Zielgruppe und den Einsatzbereich sind v\u00f6llig ausreichend, um lohnende Diskussionen zu f\u00fchren. Sowohl bei solchen dezidierten Ethik-Diskussionen, aber auch im \u00f6ffentlichen Diskurs ist es dabei zunehmend wichtig, zu benennen, was genau wir mit \u00abKI\u00bb jeweils meinen. Das Feld der KI-gest\u00fctzten Technologien ist auch im Bildungsbereich mittlerweile so gross, dass wir spezifischer werden m\u00fcssen, um sinnvolle Diskurse zu f\u00fchren.<\/p>\n\n\n\nWeitere Informationen<\/h2>\n\n\n\n