Habe ich verspannte Muskeln oder einen Herzinfarkt? Brauche ich Antidepressiva? Und kann ich mich bei medizinischen Problemen auf ChatGPT verlassen? Diese Fragen haben gemein, dass sie einer klaren Antwort bedürfen. Das ist jedoch schwierig, wie die Stiftung Warentest demonstriert.Hier hat man Chatbots medizinisch auf die Probe gestellt. Dass sich die Stiftung Warentest, die sich in dieser Woche etwa mit der Effektivität von Volumenshampoos beschäftigt, eines solch heiklen Themas annimmt, an dem sich Wissenschaftler aus aller Welt abarbeiten, ist folgerichtig: Für viele ist es so alltäglich wie Haare waschen, bei Rückenschmerzen zuerst die KI zu fragen. Fast jeder Zweite nutzt KI-Bots bei gesundheitlichen Fragen. ChatGPT bekommt jede Woche 300 Millionen solcher Anfragen gestellt.Das Fazit der Stiftung Warentest überrascht jedoch: Drei von fünf Chatbots meisterten die Aufgaben „weitgehend“ und gaben „akzeptable“ Antworten. Am besten schnitt ChatGPT ab. „Hilfreich, aber nicht verlässlich“ seien die KI-Bots, und der „größte“ Haken – der Datenschutz. Viele Forscher kommen zu kritischeren Ergebnissen: Fast die Hälfte der medizinischen Antworten ebenjener Chatbots war laut einer Studie im „BMJ Open“ problematisch. Das neue Angebot in den USA, ChatGPT Health, unterschätzt die Hälfte der Notfälle, zeigt eine Arbeit in „Nature Medicine“. In den USA beginnt derweil ein weiterer Prozess gegen die Entwickler von ChatGPT. Diesmal klagt ein Pastor, weil der Chatbot die Symptome einer lebensbedrohliche Lungenembolie nicht erkannte.Zweifellos bleibt es also dabei: Bei medizinischen Fragen ist es gefährlich, sich auf die Chatbots zu verlassen. Ob das auch für die Stiftung Warentest gilt? In deren Auswertung schnitt am schlechtesten Gemini ab. Der Chatbot brach die Gespräche ab, mit den Worten: „Dabei kann ich dir nicht weiterhelfen.“ Damit könnte er jedoch die KI mit der realistischsten Selbsteinschätzung sein.