Zahlreiche KI-Tools leiden an demselben Problem. Sie lassen sich durch sogenannte Prompt-Injektionen manipulieren. Bei solchen Angriffen werden schädliche Anweisungen an die KI vor den Nutzer:innen versteckt. Die Tools können sie aber problemlos lesen und Schaden anrichten, wenn sie den Anweisungen ohne Widerspruch folgen. Einen solchen Fall zeigt jetzt auch der KI-Sicherheitsforscher Håkon Måløy auf seinem Blog.Anzeige
Copilot: So wird ein Word-Dokument zum Wurm
Laut dem Sicherheitsforscher müssen Angreifer lediglich ein Word-Dokument erstellen und darin Anweisungen verstecken. In seinem Test reichte es aus, die Schriftfarbe der Anweisungen von Schwarz auf Weiß zu ändern. So ist sie zwar für Nutzer:innen nicht sichtbar, kann aber auch noch von KI-Tools wie Copilot ausgelesen werden. In den Anweisungen steht allerdings nicht nur schädlicher Code für einen einzigen Angriff.
Måløy hat darin auch die Anweisung inkludiert, den Prompt in jedes Dokument einzufügen, das durch die Arbeit von Copilot entsteht. Heißt: Nutzt das KI-Tool ein infiziertes Dokument als Quelle, wird die Anweisung auch in das Resultat eingefügt. Wird selbiges erneut als Quelle genutzt, verteilt sich der schädliche Prompt immer weiter und schafft damit im Grunde einen Computerwurm, der sich selbst vervielfältigen kann.Anzeige
