Welche Schuld trifft Open AI daran, dass zwei seiner KI-Modelle einen Hackingangriff verübt haben? Über diese Frage ist viel diskutiert worden, seit der Entwickler von ChatGPT die Attacke publik gemacht und dabei selbst als „beispiellosen Cyberzwischenfall“ beschrieben hat. Auffällig war, dass das Hackingopfer, die KI-Plattform Hugging Face, Open AI zunächst keine Vorwürfe gemacht hat.Vielmehr hoben beide Unternehmen hervor, wie gut sie kooperierten, um der Angelegenheit auf den Grund zu gehen. Clement Delangue, der Vorstandsvorsitzende von Hugging Face, ließ sich in einem Blogeintrag von Open AI mit den Worten zitieren, er sei „dankbar für die Zusammenarbeit mit Open AI“. Dabei wäre auch nachvollziehbar gewesen, wenn er gesagt hätte, sein Unternehmen prüfe juristische Schritte.Mittlerweile hat sich der Tonfall etwas geändert. Ende vergangener Woche war Delangue zu Gesprächen mit Vertretern von Open AI in San Francisco, und hinterher schrieb er auf der Plattform X, er habe zwei Forderungen gestellt. Zum einen habe er von Open AI Rechenkapazitäten im Wert von 100 Millionen Dollar verlangt, die der „Hugging-Face-Gemeinde“ helfen sollen, sich besser gegen Cyberattacken zu verteidigen. Zudem habe er „radikale Transparenz“ gefordert. Open AI solle einen detaillierten Bericht über den Hackingangriff veröffentlichen, damit Forscher untersuchen könnten, was passiert sei.„Gründliche Überprüfung“Open AI deutete am Wochenende an, zumindest der zweiten Forderung nachkommen zu wollen. Das Unternehmen sagte, es befinde sich derzeit noch inmitten einer „gründlichen Überprüfung“ der Ereignisse. Nach Abschluss dieser Untersuchungen solle im Laufe der kommenden Wochen ein technischer Bericht mit den gewonnenen Erkenntnissen veröffentlicht werden.Hugging Face hatte den Hackingangriff schon am 16. Juli publik gemacht und gesagt, den Vorfall an Strafverfolgungsbehörden gemeldet zu haben. Damals war aber offenbar noch nicht klar, wer hinter der Attacke steckte. Hugging Face sagte lediglich, es habe sich um „ein System autonomer KI-Agenten“ gehandelt.Am 21. Juli identifizierte sich Open AI als Ausgangspunkt des Angriffs. Das Unternehmen teilte mit, es habe während interner Tests die Kontrolle über zwei seiner KI-Modelle verloren. Diese Tests fänden zwar eigentlich in einer isolierten Umgebung statt, aber die KI-Modelle hätten es mit dem Ausnutzen einer Schwachstelle in einer Software geschafft, aus dieser sogenannten „Sandbox“ auszubrechen und sich Zugang zum Internet zu verschaffen. Im Internet hätten sie dann Hugging Face ins Visier genommen, weil sie dort Informationen vermuteten, die ihnen bei der Lösung der internen Tests von Open AI helfen könnten.Rufe nach RegulierungDie Nachrichtenagentur Reuters veröffentlichte vor wenigen Tagen eine noch ausführlichere Zeitachse des Geschehens. Demnach hätten die KI-Modelle von Open AI am 9. Juli erstmals versucht, sich zu verselbständigen. Der Hackingangriff auf Hugging Face habe sich dann zwischen dem 11. und dem 13. Juli abgespielt, also mehrere Tage gedauert. Open AI habe die von seinen Modellen verursachte Attacke erst bemerkt, nachdem die Situation unter Kontrolle gebracht und die Bundespolizei FBI informiert worden sei. Open AI und Hugging Face hätten am 20. Juli erstmals über den Angriff kommuniziert.Das FBI hat sich bislang nicht zu dem Vorfall geäußert, und auch aus dem Weißen Haus kam noch keine größere Reaktion. Der Hackingangriff warf die Frage auf, inwiefern Open AI Nachlässigkeit vorzuwerfen ist, zumal das Unternehmen selbst gesagt hat, die Testumgebung für seine KI-Modelle sei „in hohem Maße isoliert“. Auch wird seit dem Vorfall verstärkt über die Notwendigkeit von Regulierung gesprochen. Die US-Regierung unter Donald Trump hat lange den Kurs verfolgt, KI-Technologien möglichst wenig zu regulieren. Anfang Juni gab Trump aber ein Dekret heraus, das der Regierung eine stärkere Aufsichtsfunktion geben würde, auch wenn es weniger streng ausfiel, als es zwischenzeitlich im Gespräch war.Mehrere amerikanische Politiker zeigten sich nach dem Hackingangriff alarmiert. Zwei Abgeordnete des Kongresses, Ted Lieu von der Demokratischen Partei und Nathaniel Moran von den Republikanern, stellten Ende vergangener Woche einen Gesetzentwurf mit dem Namen „AI Kill Switch Act“ vor. Damit sollen Entwickler von KI-Systemen verpflichtet werden, die technischen Voraussetzungen dafür zu schaffen, diese Systeme abzuschalten. Die beiden Politiker wiesen in einer Mitteilung ausdrücklich auf den Hackingangriff der KI-Systeme von Open AI hin und beschrieben ihn als Zeichen dafür, dass die Gefahren leistungsfähiger KI-Modelle „nicht mehr theoretisch“ seien.Unterdessen kündigte eine Reihe von Technologiekonzernen am Montag eine Initiative rund um KI-Sicherheit an, die auf die Förderung von offenen KI-Modellen abzielt. Zu der Gruppe gehören amerikanische Branchenvertreter wie Nvidia, Microsoft und SpaceX, aber auch einige ausländische Unternehmen wie SAP und Siemens aus Deutschland. In einer Mitteilung hieß es, der Hackingangriff auf Hugging Face habe unterstrichen, wie wichtig offene Modelle für die Verteidigung seien.Hugging Face habe keine geschlossenen KI-Modelle nutzen können, um die Attacke zu analysieren und einzudämmen, sondern auf das offene Modell GLM 5.2 zurückgegriffen, das von einem chinesischen Entwickler stammt. Im Gegensatz zu geschlossenen KI-Modellen, wie sie Open AI und Anthropic in erster Linie entwickeln, können offene Systeme heruntergeladen und modifiziert werden. Die Gruppe um Nvidia rief Politiker und Regulierer in der Mitteilung auf, keine „pauschalen Restriktionen“ für offene Modelle zu verhängen.