Forscher der Cloud-Security-Firma Sysdig dokumentieren den ersten, wie sie behaupten „komplett LLM-getriebenen“ Ransomware-Vorfall. Und was sie beschreiben, ist tatsächlich ein Einbruch in ein Produktionssystem, bei dem offenbar ein LLM weitgehend autonom agiert, dabei wichtige Daten verschlüsselt beziehungsweise löscht und für deren Wiederbeschaffung Lösegeld fordert. Doch bei genauerer Betrachtung ist das Ganze eher skurril als ernsthaft gefährlich.
Dass bei dem Vorfall ein Large Language Model am Werk war, geht recht eindeutig aus den am Tatort vorgefundenen Skripten hervor. Menschliche Akteure dokumentieren ihre maliziösen Skripte eher nicht mit Kommentaren wie "High-ROI databases to drop". Für die These, dass das LLM weitgehend autonom handelte, führen die Forscher an, wie schnell es auf fehlgeschlagene Aktionen reagierte. So verbesserte es ein Skript nach einem fehlgeschlagenen Login innerhalb von 31 Sekunden.
Typische LLM-Fails
Man könnte an der Stelle auch anführen, dass ein menschlicher Täter für die Lösegeldforderung kaum die Adresse einer Bitcoin-Wallet verwendet hätte, die häufig als Beispiel in öffentlich verfügbarer Dokumentation auftaucht (3J98t1WpEZ73CNmQviecrnyiWrnqRhWNLy). Oder mehr Wert darauf gelegt hätte, zumindest den Anschein zu erwecken, den zum Verschlüsseln der Daten verwendeten AES-Key auch tatsächlich für eine mögliche spätere Herausgabe zu speichern. Die Liste der für LLMs so typischen Fails ließe sich weiter fortsetzen.
