Character AI führt elterliche Aufsichtstools zur Verbesserung der Sicherheit von Teenagern ein

Nach einer Reihe von Klagen und Kritik, weil es angeblich versäumt hat, seine minderjährigen Nutzer vor Schaden zu schützen, hat Character AI, das Startup, das Nutzern ermöglicht, verschiedene KI-Charaktere zu erstellen und mit ihnen über Anrufe und Texte zu kommunizieren, am Dienstag angekündigt, dass es eine neue Reihe von elterlichen Aufsichtstools einführt, um die Sicherheit seiner jugendlichen Nutzer zu erhöhen.

Character AI wird nun den Eltern und Erziehungsberechtigten eine Zusammenfassung der Aktivitäten ihrer Teenager in der App über eine wöchentliche E-Mail zur Verfügung stellen. Die E-Mail zeigt angeblich die durchschnittliche Zeit, die ein Kind in der App und im Internet verbringt, die Zeit, die es mit jedem Charakter spricht, und die beliebtesten Charaktere, mit denen es in der Woche interagiert hat.

Das Startup sagt, dass diese Daten darauf abzielen, Eltern Einblicke in die Engagement-Gewohnheiten ihrer Teenager auf der Plattform zu geben. Es wurde klargestellt, dass Eltern keinen direkten Zugang zu den Chats selbst erhalten.

Nach den Klagen und dem mutmaßlichen Selbstmord eines jugendlichen Nutzers fügte das Startup im letzten Jahr Sicherheitsmaßnahmen hinzu, wie ein spezielles Modell für Nutzer unter 18 Jahren, Benachrichtigungen über die verbrachte Zeit und Hinweise, um die Nutzer daran zu erinnern, dass sie mit KI-gesteuerten Charakteren chatten. Das Unternehmen blockierte auch sensible Inhalte für Eingaben und Ausgaben, indem es neue Klassifizierer für Teenager erstellte.

Früher in diesem Jahr stellte das Startup einen Antrag auf Abweisung einer Klage, die behauptete, das Unternehmen habe eine Rolle im Selbstmord eines Teenagers gespielt.