Der US-Bundesstaat Florida wirft der KI-Firma OpenAI und CEO Sam Altman in einer Klage vor, die Nutzer ihrer Software ChatGPT zu gefährden. Der Chatbot sei eine Bedrohung für die öffentliche Sicherheit. »OpenAI und Altman haben interne und externe Sicherheitswarnungen ignoriert, Kinder einem großen Risiko ausgesetzt und zugelassen, dass ein gefährliches Produkt Millionen von Menschen in Florida erreicht«, heißt es in der von Floridas Generalstaatsanwalt James Uthmeier eingereichten Klageschrift:
Darin wird auf Fälle verwiesen, in denen ChatGPT eine tödliche Medikamentenkombination empfohlen habe. Außerdem soll der Chatbot einen für tödliche Schüsse auf einem Universitätsgelände verantwortlichen Schützen vor dessen Tat beraten haben.»Keine Maßnahmen ergriffen«Insbesondere für Teenager sei der Chatbot problematisch, kritisierte Uthmeier. Es fehle eine Altersverifizierung für die App. »Obwohl die Nutzung von ChatGPT durch Minderjährige, darunter auch Kinder im vorpubertären Alter, öffentlich bekannt ist, haben die Beklagten keine Maßnahmen ergriffen, um deren Nutzung von ChatGPT zu verhindern.«
OpenAI verwies in einer Reaktion auf Maßnahmen zum Schutz junger Nutzer. Dazu gehörten Mechanismen zur Alterserkennung sowie Überwachungsmöglichkeiten für Eltern. Die Maßnahmen führte OpenAI zum Teil erst nach Todesfällen und öffentlicher Kritik ein.ChatGPT ist der Chatbot, der den aktuellen Hype um die künstliche Intelligenz auslöste und kommt inzwischen laut OpenAI auf 900 Millionen Nutzer pro Woche. Er ist das wichtigste Produkt der Firma.
