Die großen Techfirmen OpenAI und Anthropic fordern mehr Vorsicht bei der KI–Entwicklung und haben vor, sich härter zu regulieren. Elon Musk findet das gut.
Nachdenklich gestimmt: Studierende bei einer Podiumsdiskussion mit OpenAI-Chef Sam Altman in der TU Berlin 2025
Jens Gyarmaty/laif
Diese Meldung sorgte am Sonntag für Aufsehen: OpenAI, das Unternehmen hinter ChatGPT, verschiebt seinen Börsengang. Und Dario Amodei, Chef von Anthropic, die ebenfalls große Sprachmodelle entwickeln, sagte in der Nachrichtensendung CBS, dass sich Künstliche Intelligenz „in exponentieller Geschwindigkeit“ entwickle. „Es ist ein Warnsignal dafür, dass wir langsamer machen müssen“.
Dem vereinten Wunsch nach Verlangsamung vorausgegangen war eine Hacking-Attacke, bei der sogenannte KI-Agenten von OpenAI sich während eines Testlaufs verselbständigt hatten und in Systeme der KI-Plattform Hugging Face eingedrungen waren. KI-Agenten sind Systeme, die selbstständig Aufgaben wie Internetrecherchen oder Datenbearbeitung ausführen können. Im Fachjargon spricht man bei so einem Verhalten von KI-Systemen von „Misalignment“. Hauptziel bei der KI-Entwicklung ist, dass sie mit menschlichen Zielen und Wertvorstellungen „auf Linie“ ist („alignment“).
