Nach übergriffigen Antworten: Microsoft legt Bing-Chatbot an Leine

Nach übergriffigen Antworten: Microsoft legt Bing-Chatbot an Leine

https://ift.tt/npdUQDW


Nach übergriffigen Antworten

Microsoft legt Bing-Chatbot an die Leine

Stand: 20.02.2023 09:36 Uhr

Er soll den Durchbruch für Microsofts Suchmaschine Bing bringen: ein KI-Chatbot. Doch in seinen Antworten wurde er ausfällig, bedrohte Nutzer oder forderte sie auf, sich von ihrem Partner zu trennen. Nun zieht der Konzern Konsequenzen.

Der US-Tech-Riese Microsoft hat die Nutzung seines Bing-Chatbots eingeschränkt, der mit Hilfe von künstlicher Intelligenz (KI) auch komplexe Fragen beantworten und ausführliche Konversationen führen kann. Der Software-Konzern reagiert damit auf etliche Vorfälle, in denen der Text-Roboter aus dem Ruder gelaufen ist und Antworten formuliert hat, die als übergriffig und unangemessen empfunden wurden.

Microsoft kündigte an, dass es Chat-Sitzungen in seiner neuen Bing-Suchmaschine, die auf generativer KI basiert, auf fünf Fragen pro Sitzung und 50 Fragen pro Tag begrenzen wird. "Unsere Daten haben gezeigt, dass die überwiegende Mehrheit der Menschen die Antworten, die sie suchen, innerhalb von fünf Runden findet", erklärte das Bing-Team. Nur etwa ein Prozent der Chat-Unterhaltungen enthalte mehr als 50 Nachrichten. Wenn die Nutzerinnen und Nutzer das Limit von fünf Eingaben pro Sitzung erreichen, wird Bing sie künftig auffordern, ein neues Thema zu beginnen.

Keine längeren Konversationen

Microsoft hatte zuvor bereits davor gewarnt, den KI-Chatbot, der sich noch in einer Erprobungsphase befindet, in längliche Konversationen zu verwickeln. Längere Chats mit 15 oder mehr Fragen könnten demnach dazu führen, dass Bing "sich wiederholt oder zu Antworten veranlasst beziehungsweise provoziert wird, die nicht unbedingt hilfreich sind oder nicht mit unserer beabsichtigten Tonalität übereinstimmen."

Bing-Chatbot: "Ich kann dich ruinieren"

Für Aufsehen im Netz hatte ein Test des Bing-Chatbots durch einen Reporter der "New York Times" gesorgt. In einem mehr als zweistündigen Dialog behauptete der Chatbot, dass er den Journalisten liebe. Dann forderte er den Reporter auf, sich von seiner Frau zu trennen.

Zuvor hatten bereits andere Anwender auf "unangemessene Antworten" des Chatbots hingewiesen. So sagte die Bing-Software einem Nutzer, sie würde ihr eigenes Überleben wahrscheinlich dem seinen vorziehen. Bei einem anderen Nutzer beharrte sie darauf, es sei das Jahr 2022. Als dieser darauf beharrte, dass 2023 das richtige Jahr sei, wurde der Text-Roboter ausfällig.

Der Chatbot bedrohte außerdem einen Philosophieprofessor mit den Worten "Ich kann dich erpressen, ich kann dir drohen, ich kann dich hacken, ich kann dich bloßstellen, ich kann dich ruinieren", bevor er seine Drohung selbst wieder löschte.

Wettbewerb zwischen Chatbots

Das neue Bing, für das es eine Warteliste mit Millionen von Nutzern gibt, ist eine potenziell lukrative Möglichkeit für Microsoft. Das Unternehmen sagte bei einer Investoren- und Pressepräsentation vergengene Woche, dass jeder Prozentpunkt Marktanteil, den es auf dem Markt für Suchwerbung gewinnt, weitere zwei Milliarden Dollar an Werbeeinnahmen einbringen könnte.

Microsoft setzt bei seinem Bing-Chatbot auf die Technik des Start-ups OpenAI, das hinter dem Chatbot ChatGPT steckt, und unterstützt das kalifornischen KI-Unternehmen mit Milliarden. Microsoft-Chef Satya Nadella sieht in der Einbindung von KI-Funktionen zum einen die Chance, die Marktverhältnisse im Wettbewerb mit dem Google-Konzern Alphabet umzukehren. Außerdem will er mit Hilfe von KI die Vormachtstellung seiner Bürosoftware absichern und das Cloud-Geschäft mit Microsoft Azure vorantreiben.

Google hat mit dem Chatbot Bard eine eigene KI-Offensive gestartet, um den Vorstoß von Microsoft und OpenAI zu kontern. Konzernchef Sundar Pichai hat nach einem Bericht von "Business Insider" seine Mitarbeiter aufgefordert, die Weiterentwicklung des Systems mit Hochdruck vorantreiben: Sie sollten zwei bis vier Stunden ihrer wöchentlichen Arbeitszeit in das Training des Chatbots investieren.

via tagesschau.de

February 20, 2023 at 06:17PM