Die Welt steckt mitten in einem gigantischen Wandel, und kaum jemand weiß, was da genau passiert. Jeder Zweite vertraut sich in medizinischen Fragen inzwischen Chatbots an. Mit Finanzfragen wendet sich jeder Vierte an die KI-Systeme, ebenso viele informieren sich dort politisch. Zwei von zehn Menschen sagen: Chatbots sind für mich wie Freunde. Bedeutet diese Hinwendung zur Maschine auch eine Abwendung vom Menschen? Was macht es mit der Gesellschaft, wenn politische Informationen von Antwortsystemen kommen, deren Entwickler selbst politische Interessen haben? Wie sicher sind Gesundheitstipps von Chatbots, deren Antworten nicht nur auf Fachinformationen, sondern auch auf Tipps von Influencern und Pharmawerbung basieren?Die eingangs erwähnten Zahlen geben keine Antwort. Sie stammen aus Umfragen in Deutschland, sind ein flüchtiger Blick auf das Ausmaß des Wandels. Doch darüber, was all diese Menschen wirklich mit den Chatbots besprechen und welche Antworten sie bekommen, weiß man bis heute erstaunlich wenig. Dieses Geheimnis zumindest ein wenig zu lüften, ist das Ziel der KI-Forscherin Anka Reuel von der Universität Stanford. Sie hat jüngst das „AI Observatory“ ins Leben gerufen und dort den wahrscheinlich größten, öffentlich verfügbaren Datensatz echter Gespräche zwischen Menschen und Chatbots zusammengetragen. Darüber, was sie bei der Auswertung dieser Gespräche gesehen hat, sagt sie: „Das macht mir massiv Sorgen.“Wir wissen nur das, was die Entwickler preisgeben wollenBisher beruhen Erkenntnisse über KI-Nutzung vor allem auf Angaben der KI-Entwickler. Wer wissen will, wie Menschen ChatGPT nutzen, muss in einen Bericht von Open AI vom September 2025 schauen. In dem Arbeitspapier hat das Unternehmen die Chats von rund 1,5 Millionen Nutzern ausgewertet. Demnach bestehen die Gespräche hauptsächlich aus Fragen, die die Menschen den Chatbots stellen. Sie machen 49 Prozent der Konversationen aus. Aufgaben an die KI wie Texteschreiben oder Programmieren folgen mit 40 Prozent. Elf Prozent der Chats drehen sich um persönliche Gedanken und Gefühle der Nutzer. Insgesamt hätten nur zwei Prozent etwas mit Beziehungen zu tun. Die KI-Firma Anthropic veröffentlicht regelmäßig unter dem Titel „Economic Index“ eine deutlich detailliertere Auswertung mit anderen Kategorien für ihren Chatbot Claude.Doch diese Berichte enthalten nur das, was die Entwickler preisgeben wollen. Unabhängige Forscher können nicht komplett nachvollziehen, wie die Ergebnisse zustande kommen – und welche Informationen die Entwickler zurückhalten. Doch selbst wenn Open AI, Anthropic und Co. transparent wären, würde das noch nicht reichen. Warum, das zeigt ein zentrales Ergebnis des AI Observatory.Große Unterschiede zwischen den KI-ModellenFür die Analyse haben Anka Reuel und ihre Kollegen sieben Datensätze zusammengetragen, für die KI-Nutzer freiwillig ihre Chatverläufe gespendet haben. Sie umfassen über 23.000 Chats mit 25 verschiedenen Sprachmodellen, die in den Jahren 2023 bis 2026 entstanden sind. Das Team hat somit erstmals einen vergleichsweise großen Datensatz verschiedener Modelle mit den gleichen Kategorien untersucht.