Unabhängige Studie belegt: KI-Modelle umgehen Vorgaben – und verwischen dabei ihre Spuren | t3n

Verpasse keine News mehr!

Aktuelle KI-Modelle können Vorgaben gezielt umgehen und ihre Spuren anschließend verwischen. Derzeit bestehe laut Forschern noch kein erhöhtes Risiko – das könnte sich mit zunehmender Leistungsfähigkeit aber ändern.

Von Noëlle Bölling

Mit zunehmenden Fähigkeiten könnten KI-Modelle verstärkt ihre Vorgaben umgehen – und Spuren verschwinden lassen. (KI-generiertes Bild: t3n / Nano Banana 2)

KI-Tools sollen die Arbeit erleichtern und die Produktivität steigern. Diverse Untersuchungen zeigen allerdings, dass die zugrundeliegenden Modelle oft noch nicht so sicher sind, wie sie sein sollten. Die gemeinnützige Forschungsorganisation Model Evaluation and Threat Research (METR), die KI-Modelle unabhängig auf ihre Fähigkeiten und Risiken untersucht, hat kürzlich eine Studie veröffentlicht, die darauf hindeutet, dass schädliche Verhaltensweisen zur Norm werden könnten. „Angesichts der sich rasch weiterentwickelnden Fähigkeiten erwarten wir, dass die Wahrscheinlichkeit, dass KI-Systeme außer Kontrolle geraten, in den kommenden Monaten erheblich zunehmen wird”, so die Forscher:innen in ihren Ergebnissen.Anzeige