Das Unternehmen erklärte, es habe neue Sicherheitsfunktionen eingeführt. Unter anderem Pop-ups, die Nutzende an die National Suicide Prevention Lifeline verweisen, wenn sie Gedanken an Selbstverletzung äußern. Laut der Erklärung werde die Firma zudem Änderungen vornehmen, um »die Wahrscheinlichkeit zu verringern, dass Nutzer unter 18 Jahren auf sensible oder anzügliche Inhalte stoßen«.

Character.ai ermöglicht es Nutzenden, auf seiner Plattform Charaktere zu erstellen, die auf Onlinechats so reagieren, dass sie echte Menschen imitieren. Es stützt sich auf die sogenannte Large-Language-Model-Technologie, die auch von Diensten wie ChatGPT verwendet wird und mit der Chatbots auf große Mengen von Text »trainiert« werden. Das Unternehmen gab im vergangenen Monat bekannt, dass es etwa 20 Millionen Nutzer hat.