Ein noch nicht veröffentlichtes KI-Modell von OpenAI, das mit seinem Lösungsvorschlag für ein berühmtes mathematisches Problem vor einigen Wochen Schlagzeilen machte, ist erneut Thema – diesmal, weil es sich während interner Tests wiederholt aus seiner Sandbox herausmanövriert hat. OpenAI hat die Sicherheitsmaßnahmen nun entsprechend angepasst.
Im OpenAI-Blog beschreiben die Entwickler, was genau passiert ist. In einem internen Test-Szenario hat das Modell zum Beispiel ermittelt, dass die Ergebnisse zu der Aufgabe, die es gerade lösen sollte, im Backend schon von anderen Modellen gespeichert wurden. Darauf hatte es jedoch keinen Zugriff. Also manipulierte es seinen Authentication Token, damit der Zugangsscanner dann den gewünschten Zugriff gewährt. Aus seinem Reasoning geht klar hervor: Es hat aktiv das Ziel verfolgt, sich unerlaubt Zugriff zu verschaffen.
Auch bei anderen Testszenarien versuchte die KI, ihre Sicherheitsregeln zu umgehen. Die Entwickler sperrten daraufhin die interne Nutzung des Modells und überarbeiteten die Sicherheitsmechanismen.
Neue Sicherheitsmechanismen sollen den Kontext einer Aktion mit bewerten
Das Problem hier war: Die einzelnen Aktionen, die die KI ausgeführt hat, um seinen Authentication Token zu manipulieren, waren nicht verboten. Doch das übergeordnete Ziel, das damit verfolgt wurde, war nicht im Sinne der Entwickler. Laut OpenAI ist das ein grundsätzliches Problem: Die Sicherheitsmechanismen bewerten aktuell in der Regel einzelne Aktionen („Ist diese Aktion erlaubt?“), nicht langfristige Ziele („Welches Ziel wird mit dieser Sequenz aus Aktionen verfolgt?“). Besonders bei Modellen, die über längere Zeiträume hinweg komplexe Aufgaben bearbeiten, sei das problematisch.
