Künstliche Intelligenz: Ethische Leitlinien für die Bildung

​​​​​​​​​​​​​​Verlieren Lehrende mit der Verbreitung von Künstlicher Intelli­genz die Kontrolle über Lern­prozesse? Der Siegeszug von KI im Bildungssystem wirft viele ethische Fragen auf. KI-Expertin Maria Wirzberger hat im Auftrag der Europäischen Kommission die „Ethischen Leitlinien für Lehrkräfte zur Nutzung von KI und Daten für Lehr- und Lernzwecke“ mitentwickelt.

19.05.2023

Frau Wirzberger, mit welchen ethischen Fragestellungen sind Lehrkräfte konfrontiert, wenn es um den Einsatz von KI in der Schule und in den Unterricht geht?

Der Kontrollverlust steht als ethisches Problem im Raum, insbesondere die Angst, dass die Maschine eine Lehrerin oder einen Lehrer überflüssig machen könnte. Hier ist Transparenz ein Schlüssel, um Ängste gegenüber der KI aufzugreifen und Vorbehalte abzubauen. Es ist wichtig, zu verstehen, was KI überhaupt ist, was solche Algorithmen tun und was sie können – und was eben auch nicht. Wir beobachten in der Gesellschaft generell viele Ängste im Zusammenhang mit KI. Diese müssen wir zuerst einmal abbauen und die Sorge ernst nehmen, dass hier eine übermächtige Maschine kommt, die etwas tut, das wir nicht mehr kontrollieren können. Dazu ist es wichtig, ein Grundverständnis davon aufzubauen, wie KI-Systeme funktionieren. Wenn man diese Kenntnisse hat, bauen sich Ängste und Unwillen ab, weil man nachvollziehen kann, was hinter der Technologie passiert. Das ist keine Magie, sondern es sind Regeln, die in der Technik ablaufen, Algorithmen, die nach bestimmten Mustern funktionieren und dann wird das Ganze greifbarer. Dann kann man anfangen, sich gezielt zu überlegen:  Was sind die Aufgaben, bei denen mich das KI-System unterstützen kann? Und was sind Aufgaben, bei denen ein solches System die Schülerinnen und Schüler unterstützen kann?

Eine wichtige ethische Frage ist, ob KI nicht Ungleichheiten verschärft, indem sie nur für diejenigen zugänglich ist, die es sich finanziell leisten können, während diejenigen, die keinen Zugang zu diesen Technologien haben, auf der Strecke bleiben. Die Diskussion um die Gerechtigkeit dreht sich auch darum, worin technische Voraussetzungen für den Einsatz von KI-Systemen liegen und wie man sie so gestalten kann, dass sie auf Hardware laufen, die leichter für breitere Schichten von Schülerinnen und Schülern zugänglich ist. Können solche Systeme zum Beispiel auch auf Schul-Tablets laufen und nicht nur auf komplexen Hochleistungsrechnern, die sich die meisten Schulen gar nicht leisten können? Dass sich die Bildungsschere auf diese Weise noch stärker öffnet, ist nur eine der großen Befürchtungen, die zeigt, wie wichtig die Fragen sind, die wir in den ethischen Leitlinien definiert haben.

Ein weiteres ethisches Problem hat mit dem Datenschutz zu tun. Wer bekommt welche Daten? Werden die Daten der Schülerinnen und Schüler verkauft? Haben die Kinder im späteren Leben Nachteile, wenn Informationen zu zukünftigen Arbeitgeberinnen und Arbeitgebern gelangen? Auch die potenzielle Abhängigkeit der Schülerinnen und Schüler von KI-Systemen wird häufig als Befürchtung geäußert und ist daher in den ethischen Leitlinien abgebildet. Die Frage die die Gemüter an dieser Stelle beschäftigt: Wenn Schülerinnen und Schüler sich beim Lernen zu sehr auf KI-Systeme verlassen, verkümmern dann nicht ihre menschlichen Fähigkeiten?

Lässt KI denn menschliche Fähigkeiten verkümmern?

Damit das nicht passiert, müssen wir uns vorher überlegen, wie wir Prüfungen oder Aufgaben so gestalten können, dass man selbst kritisch denken muss. Kritisches Denken ist eine Grundfähigkeit des Menschen. Ich persönlich glaube, dass eine intelligente Maschine das auch in Zukunft nicht können wird. Kritisches Denken ist etwas sehr Menschliches. Genau an dieser Stelle müssen wir konsequent ansetzen und das kritische Denken in der Bildung gezielt fördern.

Werden KI-Systeme irgendwann den Job von Lehrkräften komplett übernehmen?

Nein, das halte ich für eher unwahrscheinlich. Wenn eine Lehrkraft vor einer Klasse steht, wird sie unweigerlich ihre menschliche Intuition einsetzen. Gerade erfahrene Lehrkräfte können die Gesamtstimmung der Lerngruppe oft mit einem Blick erfassen. Intuition lässt sich bislang weder formalisieren noch modellieren, daher man kann sie auch schwer in ein KI-System übertragen.

Vom „Vorrang menschlichen Handelns und menschlicher Aufsicht“ bis hin zum „Gesellschaftlichen und ökologischen Wohlergehen“. Es gibt sieben Ethische Leitlinien, die in 36 Leitfragen als Orientierungshilfen für Lehrkräfte unterteilt sind. Wie können Lehrkräfte diese Leitfragen als Orientierungshilfe nutzen?

Zunächst müssen die Bildungsinstitutionen und Bildungsverantwortlichen darüber informiert werden. Das ist ein Punkt, der bei der Professionalisierung der Lehrkräfte ansetzt. Wir müssen den Umgang mit den ethischen Leitlinien in die Lehramtsstudiengänge und Lehrkräfteseminare bringen und natürlich auch in die Fortbildung von Lehrerinnen und Lehrern, die schon lange im Beruf sind. Das wird noch ein hartes Stück Arbeit sein, die Informations- und Bildungspolitik so zu gestalten, dass eine flächendeckende Verbreitung möglich wird.

In meine Lehre haben die Leitlinien schon Eingang gefunden, denn inspiriert durch meine Mitarbeit in der Gruppe von Expertinnen und Experten habe ich ein thematisch anknüpfendes Seminar entwickelt. In diesem setze ich bei existierenden Bildungstechnologien wie Chatbots oder Intelligenten Tutoriellen Systemen an, gehe mit den Studierenden die Leitfragen durch und wir diskutieren darüber, um gezielt die Knackpunkte herauszufinden.

Wenn wir uns beispielsweise Sprachlernsoftware wie Enskill der Firma Alelo betrachten, dann liegt hier der Vorteil einer motivierenden und an die individuellen Fähigkeiten angepassten Lehrsituation klar auf der Hand. Gleichzeitig stellen sich neben der Frage, wer Zugriff auf die Daten der Lernenden haben sollte, gerade im Zusammenhang mit dem Avatar, mit dem sich die Lernenden unterhalten, verschiedene Herausforderungen. Wird für die Lernenden deutlich, dass es sich hier lediglich um eine simulierte soziale Interaktion handelt und nicht um ein eigenständig fühlendes Gegenüber? Wie zuverlässig sind die Vorhersagen zum jeweiligen Lernstand, die das System für die Anpassung der Schwierigkeit nutzt? Und wer kontrolliert die Ergebnisse des Systems und stellt deren Zuverlässigkeit sicher?

Die Europäischen Kommission hat Expertinnen und Experten zusammengebracht, die die Ethischen Leitlinien für Lehrkräfte über die Nutzung der KI entwickeln sollte. Wie sind Sie in diese Gruppe von Expertinnen und Experten gekommen?

Die Einladung kam über das Cyber Valley zustande, Europas größtes Forschungskonsortium im Bereich der künstlichen Intelligenz mit Partnern aus Wissenschaft und Industrie. Das Land Baden-Württemberg ist daran beteiligt sowie das Max-Planck-Institut für Intelligente Systeme mit den beiden Standorten in Stuttgart und Tübingen, die beiden Universitäten in Stuttgart und Tübingen, vier Stiftungen und sieben Unternehmen – es ist ein großer Zusammenschluss aus diesem Verbund heraus entstanden. In diesem Verbund bin ich schon seit 2018 Mitglied, weil ich vor meinem Wechsel an die Universität Stuttgart im März 2020 als Post-Doktorandin am Max-Planck-Institut für Intelligente Systeme in Tübingen tätig war. 2021 ist man aus dem Cyber Valley und der Universität Stuttgart heraus auf mich zugekommen, weil es von Seiten der Europäischen Kommission einen Aufruf gab, Expertinnen und Experten genau zu diesem Themenfokus zusammenzubringen. Die Universität Stuttgart war dabei als Organisation in der Gruppe vertreten, die durch meine Person repräsentiert wurde.

Wie haben Sie den Prozess der Entwicklung der Ethischen Leitlinien für Lehrkräfte über die Nutzung der KI erlebt?

Bei den 25 Expertinnen und Experten aus den unterschiedlichen europäischen Ländern waren nicht nur Forschende aus unterschiedlichen Feldern wie Informatik, Bildungsforschung oder Rechtswissenschaften dabei, sondern auch Lehrkräfte. Ebenfalls waren Vertreter aus Institutionen wie OECD, UNESCO und UNICEF dabei, die eine politisch-strukturelle Perspektive in den Prozess eingebracht haben. Der Prozess wurde von Vertreterinnen und Vertretern verschiedener Organe der Europäischen Kommission wie DG CONNECT und DG EAC geleitet und aktiv mitgestaltet. Weil hier so viele Perspektiven zusammengekommen sind, waren die Diskussionen sehr spannend und im Sinne der Netzwerkbildung auf verschiedenen Ebenen für mich sehr bereichernd.

Was war Ihr Beitrag bei der Entwicklung der Ethischen Leitlinien in der Expertengruppe?

Wir haben bei den verschiedenen Treffen in Kleingruppen und dem Plenum über die verschiedenen Themen diskutiert, die nun auch in den Leitlinien und dem begleitenden Abschlussbericht vertreten sind: Anwendungsszenarien KI- und datengestützter Technologien in der Bildung mit den zugehörigen Herausforderungen, ethische Leitdimensionen, die im Europäischen Kontext bereits definiert wurden, rechtliche Regularien, die in diesem Kontext relevant sind, und auch Kompetenzen, die auf Seiten der Fachkräfte in der Bildung erforderlich sind. So war ich auch Teil einer Gruppe, in der wir uns besonders mit möglichen Anwendungsfällen von KI-Systemen in der Bildung, sogenannten Use Cases, beschäftigt und diese auch in schriftlicher Form zusammengetragen haben. Diese Fallbeispiele und Anwendungsszenarien sind zum Teil auch in die Ethischen Leitlinien eingeflossen.

Ich habe hier insbesondere Beispiele inklusiver Bildung recherchiert und dabei die Erkenntnis gewonnen, auf welch vielfältige Weise KI-gestützte Werkzeuge die Lernbedingungen für Menschen mit besonderen Unterstützungsbedarfen verbessern können. Ein Beispiel dafür sind durch Algorithmen generierte Untertitel oder Sprachausgaben, die eingesetzt werden, um Einschränkungen im Hören oder Sehen zu kompensieren. Damit wird ein erweiterter Zugang zu Bildungsinhalten geschaffen, der für eine bildungsgerechte Welt essenziell ist.

Wie schätzen Sie die Bedeutung der Ethischen Leitlinien ein?

Ich schätze diese als sehr hoch ein. Wir haben hier auf europäischer Ebene ein Werkzeug geschaffen, das wirklich große Strahlkraft und ein enormes Potenzial hat. Die Aufforderung wird sein, dieses große Potenzial auch zu nutzen und in das deutsche Bildungssystem hineinzutragen. Das wird die Mammutaufgabe sein, die wir in der modernen Lehrkräftebildung noch vor uns haben.

Vielen Dank für das Gespräch.

Text: Arndt Zickgraf

Zur Person: Jun.-Prof. Dr. Maria Wirzberger ist Tenure-Track-Professorin an der Universität Stuttgart und leitet dort die Abteilung Lehren und Lernen mit intelligenten Systemen. Als Sprecherin steht sie dem Interchange Forum for Reflecting on Intelligent Systems vor, einem interdisziplinären Forschungsverbund zur kritischen Reflektion der ethischen und gesellschaftlichen Auswirkungen intelligenter Systeme. Darüber hinaus ist sie Mitglied im Direktorium der Artificial Intelligence Software Academy, die sich das Ziel gesetzt hat, KI-Kompetenzen für alle Studiengänge zugänglich zu machen

Dieser Beitrag wurde zuerst veröffentlicht in:
Klett Themendienst Nr. 114 (5/2023)