ChatGPT & Schule

Worum geht es?

Die Veröffentlichung einer Testversion des KI-Chatbots ChatGPT im November 2022 hat zu einem Hype in sozialen Medien und Massenmedien geführt. Oft wird auch die Frage gestellt, welche Auswirkungen KI-Sprachgeneratoren wie ChatGPT auf die Schule haben. Dieser Text liefert Einordnungen der PHSZ zum Thema.

Allgemeine Einordnung

Die Veröffentlichung von ChatGPT im November 2022 machte eine längere und grössere Entwicklung öffentlich sichtbar. Vergleichbar mit der Markteinführung des iPhones im Jahr 2007 ist ChatGPT nicht aus dem Nichts entstanden und hat nicht komplett neue und unerwartete Eigenschaften. iPhone wie ChatGPT gelang es aber, bestehende bzw. sich entwickelnde Technologien so zu vereinen und zu nutzen, dass sie in grösserem Umfang wahrnehmbar wurden und als Beginn einer jeweils neuen Ära gelten.

Bei der Einschätzung von ChatGPT gilt es nun verschiedene Abstraktions- und damit verbundenen Zeiträume zu unterscheiden. Gewisse, versionsspezifische Eigenschaften haben eine Gültigkeit von wenigen Wochen, während gewisse grundlegende Aspekte nicht spezifisch für ChatGPT sind, dafür aber Jahre oder gar Jahrzehnte Gültigkeiten haben werden. Vermutlich gilt auch für CHatGPT die Aussage von Roy Amara, dass Menschen dazu neigen, Kurzfristiges zu überschätzen und Langfristiges zu unterschätzen (Biblionetz:w03364).

Technische Perspektive

• ChatGPT ist nur ein Schritt in einer längeren Entwicklung

• Die Grenze des Möglichen ist nicht einfach zu benennen

• ChatGPT ist ein sehr allgemeines Werkzeug, das mehr auf Breite als auf Tiefe setzt
  ChatGPT ist ein generisches Werkzeug, das auf breite Anwendung ausgelegt ist. Es ist deshalb in allen Aspekten weniger leistungsfähig als bereits existierende und zukünftig entstehende Spezialwerkzeuge.

• ChatGPT & Co. haben gewisse Ähnlichkeiten mit Suchmaschinen
  Sowohl Sprachgeneratoren als auch Suchmaschinen beruhen auf einem grossen Textkorpus. Während bei Textgeneratoren mit grossem Rechenaufwand ein neuronales Netzwerk trainiert wird, findet bei Suchmaschinen ein Indexing- und Rankingprozess statt.
  

• ChatGPT beruht primär auf einem Sprachmodell und ist keine Logik-Maschine
  GPT3 und Co. bauen ihre Antworten primär aufgrund von statistisch zu erwartenden Wörtern und Sätzen zusammen, deren Wahrscheinlichkeiten sie in ihrem Textkorpus gefunden haben. Es kommt deshalb mitunter vor, dass sie sachliche und/oder logische Fehler generieren.

• Bei der Diskussion gilt es kurzlebige Versionseigenschaften von mittelfristigen Produkteigenschaften und insbesondere von langfristigen Technologieeigenschaften zu unterscheiden
  • Versionsspezifisch: Bei der seit Dezember 2022 verfügbaren Version von ChatGPT handelt es sich um eine Testversion zur Verbesserung des Dienstes. Die Interaktionen von Testnutzenden fliessen automatisiert und/oder manuell in den Dienst ein, so dass ChatGPT bereits nach einer Woche ganz anders auf gewisse Anfragen reagiert. Somit sind derzeit sogar Aussagen zum konkreten Dienst ChatGPT manchmal nur von zeitlich sehr begrenzter Gültigkeit.
  • Produktspezifisch und darum langfristig nicht relevant für die Diskussion sind u.a. folgende Punkte:
    • ChatGPT beruht auf einem Textkorpus von 2021 und bezieht bei Antworten das aktuelle Internet nicht mit ein
      Dies ist aber eine operative Begrenzung der Entwickler:innen und kein grundsätzliches Hindernis.
    • ChatGPT zitiert derzeit nicht korrekt (Zitierstil) und erfindet mitunter Quellen.
      Dies sind beides Eigenschaften, die sich leicht korrigieren lassen in anderen Produkten, da sich sowohl die korrekte Zitierweise automatisieren und automatisiert prüfen lässt als auch eine automatische Prüfung auf die Existenz von Quellen leicht machbar ist.

• KI-Sprachroboter-Erkennungssoftware wird ein Wettrüsten auslösen, aber keine sichere Erkennung bringen
  Die Entwicklung von Programmen zur Erkennung von KI-generierten Texten (wie z.B. GPT-Zero) wird ein Wettrüsten zwischen KI-Textgenerierung und KI-Texterkennung auslösen, da KI-Textgenerierungsprogramme die verfügbaren Erkennungsprogramme als zusätzlichen Filter / Trainingsmöglichkeit nutzen werden (GAN-Netzwerk mit Erkennungsalgorithmus als Diskriminator). Es wird somit vermutlich langfristig nicht möglich sein, computergenerierte Texte zuverlässig automatisiert erkennen zu können. (Mehr unter Biblionetz:a01507)

Gesellschaftliche Perspektive

Im Folgenden werden nur gesellschaftliche Aspekte aufgeführt, die einerseits spezifisch sind für KI-Textgeneratoren und andererseits Konsequenzen haben für die Schule, die über "Das sollte man in der Schule thematisieren" hinausgehen:

• ChatGPT & Co. sind Werkzeuge, die ab jetzt im Leben zur Verfügung stehen und nicht mehr verschwinden werden.
  Natürlich wird noch eine gewisse Zeit vergehen, bis diese Werkzeuge allgemein und dauerhaft zur Verfügung stehen werden (ChatGPT ist derzeit nur eine Testversion, die auch wieder verschwinden könnte). Längerfristig ist aber davon auszugehen, dass solche Werkzeuge ab jetzt für alle (frei) verfügbar sein werden.
  • ChatGPT & Co. werden in anderen Produkte und Plattformen integriert werden
    (Microsoft hat bereits angekündigt, die Technologie in Office-Programme übernehmen zu wollen.)
• Es ist denkbar, dass ChatGPT & Co. Suchmaschinen bis zu einem gewissen Grad als Werkzeuge ablösen werden.
  Viele Beta-user von ChatGPT berichten, dass sie angefangen haben, ChatGPT als Ersatz für eine Suchmaschine zu verwenden. Es mehren sich auch die Stimmen, welche KI-Chatbots als Gefahr für traditionelle Suchmaschinen und das damit zusammenhängende Geschäftsmodell von Werbeanzeigen zwischen den Suchbegriffen als bedroht ansehen. Microsoft hat bereit angekündigt, die Technologie in die Suchmaschine Bing übernehmen zu wollen.) (Quellen siehe Biblionetz:a01506)
  • Es ist ein grosser Unterschied, ob das Ergebnis einer Recherche eine Dokumentenauswahl oder eine einzige Antwort ist.
    Es ist ein grosser Unterschied, ob das Ergebnis einer Recherche eine Dokumentenauswahl oder eine einzige Antwort ist: Traditionelle Suchmaschinen können sich bis zu einem gewissen Grad aus der Verantwortung für die Inhalte ziehen, da sie ja "nur" eine Auswahl an möglicherweise relevanten Quellen für eine Suchanfrage liefern. Textgeneratoren hingegen, die eine einzige Antwort liefern, haben eine stärkere Verantwortung für diese Antwort, selbst wenn sie dafür Belege in Form von Quellen angeben.
    
    Der Unterschied zwischen der Angabe einer Dokumentenauswahl und einer Antwort mit Quellenangabe ist auch relevant für die Betreiber:innen von Websites: Während bei ersterem ein Besuch der angegebenen Webseite noch notwendig ist für eine Antwort, entfällt dies bei Antworten von Textgeneratoren. Es ist somit zu erwarten, dass Webseiten weniger besucht würden, was auch ökonomische Konsequenzen hätte.
• ChatGPT & Co. vereinfachen und vergünstigen das Erstellen von Text massiv.
  Das wird vermutlich mindestens folgende Konsequenzen haben (die für die Allgemeinbildung relevant sind):
  • Die Informationsflut wird noch einmal um eine Grössenordnung ansteigen
    (Quellen und Kritik siehe Biblionetz:a01490)
  • Die Flut an Fake-News dürfte weiter zunehmen
    (Quellen siehe Biblionetz:a01493)
  • Das Erkennen von Fake-News aufgrund von sprachlichen Fehlern dürfte schwieriger werden
  • Phishing-Angriffe dürften künftig sprachlich fehlerfrei und evtl. extrem personalisiert sein
    Bisher konnte man davon ausgehen, dass die meisten Phishing-Versuche sprachlich eher holprig und fehlerhaft formuliert und inhaltlich eher allgemein gehalten waren. GPT3 & Co. ermöglicht künftig sprachlich perfekte und inhaltlich angepasste Anfragen. (17.01.23 Bericht von heise.de)

Folgende Aspekte erachten wir als entweder nicht schulspezifisch oder nicht KI-Sprachgeneratoren-spezifisch:

• Es ist unklar, ob KI-Sprachgeneratoren das Recht am geistigen Eigentum verletzen
  KI-Sprachgeneratoren arbeiten mit Daten, die sie durch die Verrechnung von digital vorliegenden Dokumenten gewonnen haben, die dem Urheberrecht unterliegen. Auch wenn keine Textpassagen direkt übernommen werden, gibt es Stimmen, die in dieser ungefragten Verwendung dieser Dokumente eine Verletzung des geistigen Eigentums sehen.
  Unabhängig von der juristischen Einschätzung erachten wir dies nicht als schulspezifisch zu klärende Frage. KI-Sprachgeneratoren mit der Begründung einer ungeklärten Rechtslage in der Schule nicht zu thematisieren oder verwenden, scheint uns keine zielführende Strategie zu sein. (Mehr zu diesem Aspekt z.B. bei netzpolitik.org)

• Die Verwendung aktueller KI-Sprachgeneratoren ist nicht datenschutzkonform möglich
  Die aktuellen KI-Sprachgeneratoren sind nur cloudbasiert zugänglich und lassen sich derzeit nicht lokal oder auf eigenen Servern installieren. Die Anbieter stellen die KI-Sprachgeneratoren derzeit oft kostenlos zur Verfügung um statistische Nutzungsdaten zu erheben. Es ist deshalb davon auszugehen, dass Nutzungsdaten erhoben werden, die nicht mit den jeweils lokal geltenden Datenschutzverordnungen konform sind.
  Das Phänomen, dass attraktive digitale Dienste nicht datenschutzkonform sind, ist in der bisherigen Entwicklung der digitalen Transformation häufig und nicht auf KI-Sprachgeneratoren beschränkt. Da diese Diskussion bereits seit langem sehr intensiv geführt wird und uns keine KI-Sprachgeneratoren-spezifischen Aspekte dieser Diskussion bekannt sind, verzichten wir darauf, diese Diskussion am Beispiel KI-Sprachgeneratoren erneut aufzurollen.

Bedeutung für die Schule

• Die Bedeutung von Medienkompetenz nimmt nochmals zu
  Wenn durch KI-Textgeneratoren die allgemeine Informationsflut und insbesondere auch der Umfang und Perfektionsgrad von Fakenews nochmals um eine Grössenordnung zunimmt, so nimmt auch die Bedeutung von Medienkompetenz zu, die unter anderem künftig auch das Erkennen und den Umgang mit computergenerierten Texten umfassen muss.

• Umgang mit KI-Textgeneratoren als Teil von information literacy
  Wenn KI-Textgeneratoren ein wichtiges Instrument der Recherche werden und bis zu einem gewissen Grad "traditionelle" Suchmaschinen ersetzen oder mindestens ergänzen werden, so muss der Umgang mit KI-Textrobotern Teil der Allgemeinbildung werden.

• KI-Textgeneratoren als mehrperspektivisches Thema in der Schule
  Das Verständnis und die kompetente Nutzung von KI-Textgeneratoren gehört künftig zur Allgemeinbildung. Dabei reicht – wie auch bei bisherigen (digitalen) Werkzeugen und Medien – eine reine Anwendungskompetenz nicht. Schülerinnen und Schüler sollten das Thema aus den drei Dagstuhl-Perspektiven betrachtet haben:
  • Wie funktionieren KI-Textgeneratoren technisch?
    Um die Potenziale und die Grenzen von KI-Sprachgeneratoren besser abschätzen und die Systeme effektiv und effizient nutzen zu können, ist ein grundlegendes Verständnis ihrer Funktionsweise notwendig. Es ist eine bisher noch nicht zufriedenstellend gelöste Aufgabe der Informatikdidaktik, hier entsprechende Modelle und Unterrichtsmaterial zu erarbeiten und erproben.
  • Wie wirken sich KI-Textgeneratoren gesellschaftlich aus?
    KI-Textgeneratoren werden unser Leben und Arbeiten beeinflussen. Aus diesem Grund ist es notwendig, dass sich Schülerinnen und Schüler mit gesellschaftlichen und kulturellen Aspekten dieser Technologie auseinandersetzen.
  • Wie lassen sich KI-Textgeneratoren ganz konkret nutzen?
    Um KI-Textgeneratoren im Alltag nutzen zu können, sind – wie bei allen (digitalen) Werkzeugen und Medien – gewisse Anwendungskompetenzen notwendig. Es ist aber wichtig, die Thematisierung von KI-Textgeneratoren in der Schule nicht auf diese Anwendungskompetenz zu beschränken.

• Weitere Zunahme des kognitiven Anspruchsniveaus
  Mit der Verfügbarkeit von KI-Textgeneratoren steigt das kognitive Anspruchsniveau für das berufliche und gesellschaftliche Leben weiter. Wenn auch geistige Routinetätigkeiten zunehmend automatisiert werden können, sind Menschen einerseits mit den Produkten dieser automatisierten Prozesse konfrontiert und müssen sich andererseits mit den sich ergebenden noch komplexeren Herausforderungen beschäftigen.

• Sich weiter öffnende Kompetenzschere?
  Im Zuge der bisherigen Digitalisierung hat sich gezeigt, dass gute Schülerinnen und Schüler neue (digitale) Werkzeuge und Medien besser zu ihrem eigenen Nutzen einsetzen können als schlechtere Schüler:innen. Dies hat bereits in der Vergangenheit zu einer Vergrösserung des Leistungsspektrums geführt. Dies dürfte bei KI-Textgeneratoren nicht anders sein.
  (Mehr zur Hypothese des digitalen Schereneffekts: Biblionetz:w03389)

• Motivationsprobleme aufgrund verfügbarer Automatisierung?
  Bisher nicht geklärt ist die Frage, ob sich aufgrund der Verfügbarkeit von automatisierter Texterstellung und Textübersetzung Motivationsprobleme bei Schülerinnen und Schülern ergeben, weil diese keinen Sinn darin sehen, eine Kompetenz zu erlernen, die bereits automatisiert verfügbar ist. (Es handelt sich in einem gewissen Sinn um eine ähnliche Diskussion, wie sie bereits mit dem Kopfrechnen seit der Verfügbarkeit von Taschenrechnern stattgefunden hat.)

• Detailfragen der Integration versus des Verbots von KI-Textgeneratoren in spezifischen Unterrichtssituationen
  Ähnlich wie beim Taschenrechner wird sich künftig auch bei KI-Textgeneratoren die Frage stellen, in welchen Unterrichtssituationen aus welchen didaktischen Gründen die Verwendung von KI-Textgeneratoren erlaubt bzw. verboten sein wird.

• Potenziale für Materialerstellung und Rückmeldungen an Schülerinnen und Schüler
  Grundsätzlich bieten KI-Sprachgeneratoren das Potenzial, personalisiertes Unterrichtsmaterial und (individuelle) Rückmeldungen an Schülerinnen und Schüler generieren zu lassen. Es ist aber noch nicht geklärt, wie didaktisch passend sich solche Texte generieren lassen und welche evtl. unerwünschten Nebenwirkungen sich ergeben können, wenn Computersysteme gewisse Aufgaben übernehmen, die bisher von Lehrpersonen geleistet worden sind.
  (Entsprechende Forschungen und Projekte sind oft unter den Stichworten Intelligent tutoring system (ITS), learning analytics oder Adaptivität zu finden.)

• Gewisse Prüfungsformate sind künftig anfällig für Betrug
  Schriftliche Aufgaben und Prüfungen ohne entsprechende Aufsicht und/oder Gegenmassnahmen können künftig zum Teil einfach mit KI-Sprachgeneratoren gelöst werden. Entsprechende Beispiele sind bereits zahlreiche auf dem Internet zu finden.
  • Individuelle Fragestellungen schützen nicht mehr vor möglichem Betrug
    Vor dem Aufkommen von KI-Textgeneratoren hat es gereicht, statt allgemeiner sehr individuelle Fragestellungen zu formulieren ("Beschreibe den Feldzug von Napoleon aus der Sicht eines russischen Bauern") weil die Antwort auf exakt diese Fragestellung noch nicht auf dem Internet verfügbar war. Heutige KI-Textgeneratoren liefern jedoch auch auf solche Fragestellungen Antworten.
  • Plagiatserkennungssoftware verliert massiv an Bedeutung
    Plagiatserkennungssoftware erkennt derzeit nur Textstellen, die praktisch wortwörtlich von einer anderen Quelle übernommen worden sind, jedoch nicht Texte, die mit einem KI-Textgenerator erstellt worden sind. Stehen KI-Textgeneratoren zur Verfügung, werden schlaue Studierende und Schüler:innen diese so einsetzen, dass Plagiatserkennungssoftware nicht mehr anschlagen wird. Damit verliert sie an Bedeutung.
  • Mündliche Prüfungen sind eine mögliche Massnahme gegen Betrug mit ChatGPT & Co.
    …
  • Engere Betreuung von Schüler:innen und Studierenden hilft gegen den Betrug von ChatGPT & Co.
    (Quellen und Zitate siehe Biblionetz:a01474)
  • Prozessportfolios können helfen, die Entstehung von Werken zu dokumentieren
    …
• Aktuell verfügbare Handreichungen sind meist nur kurzfristig hilfreich
  Derzeit werden zahlreiche Handreichungen für die Nutzung von ChatGPT im Unterricht publiziert. Diese Anleitungen sind aufgrund der raschen Veränderung von ChatGPT und der Gefahr einer Beendigung einer freien Verfügbarkeit des Dienstes vermutlich nur von sehr kurzfristiger Gültigkeit.

Konkrete Beispiele

Weiterführende Informationen

• Literatur- und Zitatlisten zum Themenfeld "Computergenerierte Texte" im Biblionetz von Beat Döbeli Honegger:

Kontakt

Diese Seite entstand im Umfeld der Professur "Digitalisierung und Bildung". Bemerkungen und Hinweise sind willkommen:

beat.doebeli@phsz.ch

Die Fassung vom 26.01.2023 dieser Seite ist auch als PDF downloadbar .

(Zitationsvorschlag: Döbeli Honegger, Beat (2023). ChatGPT & Schule. Einschätzungen der Professur "Digitalisierung und Bildung" der Pädagogischen Hochschule Schwyz. Version 1.28 vom 26.01.2023, doi:10.5281/zenodo.7573314)

English Version

The version dated 26.01.2023 of this page can also be downloaded as an english PDF document .