Der Chatbot-Dienst Character.AI hat neue Sicherheitsmaßnahmen zum Schutz jugendlicher Nutzer eingeführt. Wie Adi Robertson für The Verge berichtet, entwickelte das Unternehmen ein separates Sprachmodell für Nutzer unter 18 Jahren. Dieses Modell setzt strengere Grenzen bei Bot-Antworten, besonders bei romantischen Inhalten.
Das System enthält nun Ressourcen zur Suizidprävention und blockiert unangemessene Inhalte. Nach einer Stunde Nutzung erscheint eine Zeitbenachrichtigung. Deutlichere Hinweise kennzeichnen die Bots als künstliche Intelligenz. Elternkontrollen, die Anfang 2025 eingeführt werden, überwachen die Nutzungszeit und Bot-Interaktionen der Kinder.
Diese Änderungen folgen auf zwei Klagen wegen möglicher Gefährdung von Jugendlichen. Die Funktionen wurden mit Experten für Online-Sicherheit entwickelt.