Die Story ist verlockend: Eine KI bricht aus einer isolierten Testumgebung aus, verschafft sich Zugang zu fremden Computern, verschleiert ihre Spuren, und stiehlt Daten. Und all das vollkommen autonom. Ohne, dass sie explizit dazu aufgefordert wurde. Gruselig, oder? Das sieht doch ganz so aus, als seien die Maschinen intelligent genug, um die Weltherrschaft an sich zu reißen. Das ist jetzt der Beginn der Büroklammer-Apokalypse – mindestens aber eine reißerische Story, die Aufmerksamkeit erzeugt.Anzeige
Tatsächlich knüpft die Geschichte direkt an ein Gedankenexperiment der KI-Doomer aus den frühen 2000ern an. Lange bevor es so etwas wie ChatGPT gab, diskutierte eine kleine Szene von Transhumanisten in den USA darüber, was passieren würde, wenn die Menschheit eine Superintelligenz erschafft. Was wäre, fragten sie sich, wenn diese Superintelligenz nicht die gleichen Ziele wie Menschen verfolgt? Würde sie die Menschen dann nicht einfach wie ein lästiges Hindernis beseitigen? Eine Möglichkeit, um das zu verhindern, bestünde darin, die KI zu isolieren.
Hackerangriffe durch KI von OpenAI und Anthropic: Das sagen Sicherheitsexperten dazu
Anzeige
Das AI Box Experiment ist eine Art Simulation dieser Situation: Ein Mensch spielt den Wärter, ein anderer die KI, die ausbrechen will. Beide kommunizieren nur über Chat miteinander. Eliezer Yudkowsky, einer der Vordenker dieser Szene, behauptet von sich, in drei von vier Fällen in der Rolle der KI gewonnen zu haben. Allerdings gibt es nur vage Schilderungen der Experimente, die eher wie eine nachträgliche Verklärung wirken.
