Sprechen jugendliche Instagram-Nutzer mit dem Chatbot Meta AI über Selbstverletzung oder Suizid, soll dieser abschätzen, ob reale Gefahr besteht. Gegebenenfalls wird eine Prüfung durch Meta-Mitarbeiter angestoßen. Können diese den Verdacht nicht ausräumen, alarmieren sie die Eltern – vorausgesetzt, diese haben ebenfalls ein Konto bei Meta Platforms und nutzen den Dienst „Elternaufsicht”.
Meta Platforms gibt an, die entsprechenden Indizien zusammen mit Experten ausgearbeitet zu haben. Sollte die Unterhaltung zu Suizid oder Selbstverletzung kein eindeutiges Risiko zeigen, werden die Eltern trotzdem informiert. Meta geht lieber auf Nummer Sicher und nimmt dafür Fehlalarme in Kauf.
Natürlich ist es für Eltern eine große Herausforderung, das Thema mit ihrem Nachwuchs zu besprechen. Daher will Meta bei einer Alarmierung auch gleich auf Ratschläge verweisen. Derzeit gibt es die Elternalarme aber nur in Australien, Kanada, den USA und dem Vereinigten Königreich. Der Rest der Welt soll bis Jahresende hinzukommen. Im April hat Meta damit begonnen, Eltern Einsicht in die KI-Chats ihrer Kinder zu gewähren.
Mehr Zensur im Chatbot
Zudem arbeitet Meta daran, seinem Chatbot beizubringen, direkt Blaulichtorganisationen zu verständigen, wenn der Chatbot das Risiko eines unmittelbaren Suizids zu erkennen meint. Diese Funktion ist altersunabhängig. Bei Postings auf Facebook und Instagram gibt es so etwas schon, was laut Meta 2025 zu weltweit mehr als 19.000 Notrufen geführt hat. Nähere Angaben dazu liegen nicht vor.
