BERLIN. Die Hoffnung, dass es eine einfache Softwarelösung zum Enttarnen von KI-Texten gibt, wird sich nach Meinung der Berliner Informatikerin Debora Weber-Wulff nicht erfüllen.
Ein nicht deklarierter Einsatz von KI-Textgeneratoren wie ChatGPT zum Beispiel in Abschlussarbeiten bleibt aus Expertensicht vorerst schwer nachweisbar. «Die Hoffnung, dass es eine einfache Softwarelösung zum Enttarnen von KI-Texten gibt, wird sich nicht erfüllen», sagte die Berliner Plagiatsforscherin Debora Weber-Wulff (Hochschule für Technik und Wirtschaft). «Es gibt zwar sehr viel angebliche Detektoren-Software, aber sie tut nicht das, was sie soll.» Manche der Hersteller hätten Mängel auch selbst eingeräumt und auf Grenzen der Verlässlichkeit hingewiesen.
ChatGPT kann auf Nutzerbefehle hin Texte auf dem Sprachniveau eines Menschen formulieren und etwa Informationen zusammenfassen. Die Veröffentlichung Ende 2022 löste einen Hype um Künstliche Intelligenz (KI) aus. Täglich entstehen weltweit Tausende neuer KI-Anwendungen und spezialisierte GPTs finden immer stärkere Verbreitung. Im Hochschulbereich herrschen große Sorgen vor unkritischer Verwendung oder gar Täuschung durch Studierende. Mittlerweile gibt es auch Programme, mit denen man so erstellten Texten auf die Schliche kommen soll.
Weber-Wulff hat an einer Studie mitgearbeitet, für die 14 angebliche KI-Detektoren getestet wurden. Demnach lieferten diese Tools keine verlässlichen Ergebnisse, wenn es um die Frage ging, ob ein Mensch oder eine Maschine einen Text verfasst hat. Davon berichtete das Forschungsteam Ende 2023 im «International Journal for Educational Integrity». Die Studie macht als Kernproblem aus, dass rund jeder fünfte mit KI erzeugte Text nicht als solcher erkannt wurde. (News4teachers mit Material der dpa)
Erste Verdachtsfälle im Abitur: ChatGPT soll bei Prüfungen geholfen haben – Schulbehörde ermittelt
Title: Plagiatsforscherin: „Wir müssen sehr stark überdenken, wie wir Leistung messen“
URL: https://www.news4teachers.de/2024/01/plagiatsforscherin-wir-muessen-sehr-stark-ueberdenken-wie-wir-leistung-messen/
Source: News4teachers
Source URL: https://www.news4teachers.de
Date: January 28, 2024 at 11:36AM
Feedly Board(s): Schule