Schuldistrikt lässt ChatGPT entscheiden, welche Bücher gebannt werden

In konservativen US-Bundesstaaten gibt es seit Längerem den unschö­nen Trend, Bücher aus Schulbibliotheken zu verbannen, die vermeintlich „obszöne“ Inhalte aufweisen. Dazu zählt auch Iowa. Doch das bedeutet nicht, dass man die vermeintlichen Verstöße selbst gelesen hat.

„Unanständige“ Bücher werden aus Schulen verbannt

Konservative, also in der Regel republikanische Politiker, Bundesstaaten sowie Schulbezirke, führen seit einer Weile einen Kreuzzug gegen „unmoralische“, „unanständige“ und auf sonstige Weise unliebsame Schulbücher. In der Praxis bedeutet das, dass Themen wie Sex, gleichgeschlechtliche Liebe und Rassismus aus Bibliotheken verbannt werden.

Das Absurde daran: Die Verantwortlichen haben die Bücher vermutlich in den seltensten Fällen selbst gelesen, wie nun ein Fall aus Iowa zeigt. Denn wie The Gazette und Popular Science berichten (via Ars Technica), liegt dazu ein Beschluss des Senats des Staates im mittleren Westen vor, der besagt, dass jedes Buch in Schulbibliotheken „altersgerecht“ und „keine Beschreibungen oder visuelle Darstellungen einer sexuellen Handlung“ beinhalten darf.

Doch die Umsetzung dieser Regeln ist alles andere als einfach, wie Bridgette Exman, stellvertretende Superintendentin des Schulbezirks, mitteilte: „Es ist einfach nicht machbar, jedes Buch zu lesen und nach diesen neuen Anforderungen zu filtern. Daher verwenden wir ein Verfahren, das wir für vertretbar halten, um die Bücher zu identifizieren, die zu Beginn des Schuljahres 23/24 aus den Sammlungen entfernt werden sollten.“

Praxis: Eine KI entscheidet

Der Schulbezirk erläutert seine Methodik: Demnach werden „aus verschiedenen Quellen“ Listen mit häufig beanstandeten Büchern zusammengestellt, daraus wird eine „Hauptliste“ geschaffen. Diese wird dann auf Anfechtungen sexueller Inhalte gefiltert. Die Texte werden aber nicht gelesen, sondern mit „KI-Software überprüft“.

Welche KI dabei konkret zum Einsatz kommt, ist nicht bekannt, man kann aber wohl davon ausgehen, dass es sich dabei um ChatGPT handelt. Ebenso, wie man sicherlich davon ausgehen kann, dass dieser Chatbot (wie jeder andere) mit einer derartigen Zensurverantwortung überfordert ist.

„Large Language Models, wie die von ChatGPT, sind keine Orakel der unendlichen Weisheit, und sie geben schlechte Faktenhinweise“, erklärt Ars Technica. Denn gerade bei heiklen Fällen kommt es immer wieder vor, dass derartige alles andere als unvoreingenommen sind – im Gegenteil, sie sind besonders anfällig dafür.

„Dies ist das perfekte Beispiel für einen ChatGPT-Prompt, der mit ziemlicher Sicherheit überzeugende, aber völlig unzuverlässige Ergebnisse liefert“, erklärt der KI-Forscher Simon Willison. „Die Frage, ob ein Buch eine Beschreibung oder Darstellung eines Sexualaktes enthält, kann nur von einem Modell genau beantwortet werden, das den gesamten Text des Buches gesehen hat. Aber OpenAI verrät uns nicht, worauf ChatGPT trainiert wurde, sodass wir nicht wissen können, ob es den Inhalt des fraglichen Buches gesehen hat oder nicht.“

Die Ethik-Spezialistin Margaret Mitchell urteilt amüsiert, aber hart: „Es hat schon etwas Ironisches, wenn die Verantwortlichen für das Bildungswesen nicht genug wissen, um kritisch zu entscheiden, welche Bücher gut oder schlecht sind und in den Lehrplan aufgenommen werden sollen, und die Entscheidung dann an ein System auslagern, das Bücher nicht versteht und nicht kritisch denken kann.“

Siehe auch: