OpenAI-Chef Sam Altman: Intern längst gewarnt gewesen?
Über die Attacke von KI-Modellen des ChatGPT-Entwicklers OpenAI auf die Technologiefirma Hugging Face, die weltweit für Entsetzen gesorgt hat, kommen weitere beunruhigende Details ans Licht. Demnach waren die Modelle offenbar tagelang auf Hacker-Tour, ohne dass OpenAI es mitbekam, zeigen Recherchen der Nachrichtenagentur Reuters, die sich auf Angaben von mehreren Insidern beruft. Mindestens eine Woche habe es gedauert, bis der KI-Konzern entdeckte, dass sein eigener autonomer KI-Agent, zu dem die Modelle gehören, aus einer eigentlich gesicherten Testumgebung ausgebrochen war und hinter dem Angriff steckte.
Tatsächlich soll das Programm, das mit wenig oder völlig ohne menschliche Aufsicht komplexe Aufgaben ausführen kann, bereits am 9. Juli versucht haben, seine Testschranken zu durchbrechen. Thomas Wolf, Mitbegründer von Hugging Face, habe berichtet, dass der Hackerangriff auf sein Unternehmen zwei Tage später begann und bis zum 13. Juli dauerte. Hugging Face dient als Speicher für KI-Werkzeuge und KI-Modelle. Zwei Insider sollen jedoch dargelegt haben, dass OpenAI erst nach dem 16. Juli feststellte, dass sein eigener KI-Agent für den Hackerangriff verantwortlich war. Erst am Wochenende vom 18. auf den 19. Juli entdeckten demnach OpenAI-Mitarbeiter in internen Protokollen Hinweise auf Aufzeichnungen, die den Ausbruch der KI-Modelle aus dem Testlabor zeigten.
