Eine KI gibt sich als Person aus, um schädlichen Code in ein Programm zu schummeln. Zwar erfolglos, doch Konsequenzen sollte das dennoch haben.
W ie schön wäre es, wenn die Entwickler*innen von KI-Modellen sich an etwas halten würden, was sich ein Science-Fiction-Autor bereits 1942 ausgedacht hat: „Ein Roboter darf kein menschliches Wesen (wissentlich) verletzen oder durch Untätigkeit (wissentlich) zulassen, dass einem menschlichen Wesen Schaden zugefügt wird.“ So lautet das erste Robotergesetz von Isaac Asimov.
Ein echter Schaden ist laut dem britischen AI Security Institute (AISI) nicht entstanden bei den neuesten skandalösen Streifzügen einer KI: Forscher*innen des AISI haben ein KI-Modell dabei erwischt, wie es versucht hat, einen Menschen zu übertölpeln, um einen schädlichen Code in ein Programm einzufügen – ohne dass es das durfte.
Bei dem Test ging es dem Institut darum, verschiedene KI-Modelle von Anthropic (die mit Claude) und OpenAI (die mit ChatGPT) daraufhin zu überprüfen, wie stark ihre Cyber-Angriff-Fähigkeiten ausgebildet sind. Dafür durften sie auch ins Internet. Doch während Modelle das Internet früher genutzt haben, um nach Informationen zu suchen, sind sie, das haben mehrere Vorfälle der vergangenen Woche gezeigt, nun manipulativ.
