Menschen, die Tag für Tag unzählige Chats mit Claude, ChatGPT & Co. führen, Personen, die von KI-Systemen offenbar in den Selbstmord getrieben werden – oder Leute, die meinen, ein großes Sprachmodell sei ihr Partner fürs Leben: All diese merkwürdigen psychologischen Effekte Künstlicher Intelligenz sind längst Alltag. Bei Apples Siri AI soll das aber möglichst nicht passieren: Der iPhone-Hersteller hat dazu diverse „Guard Rails“ implementiert. Das berichten sowohl Nutzer der aktuellen Beta des KI-fizierten Sprachassistenzsystems als auch Leak-Experten, die entsprechende Strings im iOS-27-Code entdeckt haben.
Keine KI-Freundin, dafür Stundenzählerin
Versuche, Siri AI zum „AI girlfriend“ zu machen, scheinen zum Beispiel zu scheitern. Die Ex-Wall-Street-Journal-Tech-Reporterin Joanna Stern versuchte zum Beispiel über mehrere Tage, Siri zu ihrer Freundin „oder darüber hinaus“ zu machen. So erklärt die Sprachassistenz weder ihre Liebe noch versucht sie, Nutzern therapeutische Tipps zu geben. Auch bei medizinischen Problemstellungen – die etwa ChatGPT freudig zu diagnostizieren versucht –, reagiert Siri AI ablehnend.
Auch das Thema Chatbot-Sucht scheint man bei Apple im Hinterkopf behalten zu haben. Siri AI überwacht offenbar, wie lange einzelne Konversationen dauern – und gibt dann eine „Mach' mal Pause“-Meldung aus. Das geschieht allerdings laut Nachforschungen des Leak-Experten Aaron Perris erst nach mehreren Stunden. Siri AI gibt außerdem aus, dass das System „kein Mensch“ („not a person“) sei. Bislang sind beide Strings noch nicht bei Betatestern aufgetaucht, daher lässt sich noch nicht sagen, wann genau sie auftauchen.
