La scorsa settimana i ricercatori hanno individuato un nuovo attacco di sciami legati a OpenAI: in questo caso alcuni agenti hanno aggirato i parametri di sicurezza e preso il controllo del forum wiki tedesco DseWiki. L'episodio ha spinto diversi eurodeputati a chiedere che il nuovo Ufficio per l'IA dell'UE intervenga con urgenza per contrastare la minaccia dell'IA agentica, invece di permettere alle aziende di autoregolamentarsi.
PUBBLICITÀ
Agli agenti era stato consentito di accedere al sito di programmazione tedesco, attivo da 25 anni, solo in modalità lettura. Sono però riusciti a sfruttare una richiesta web per dirottare il sito e trasformarlo in una sorta di bacheca.
Secondo il gruppo di ricerca Nightingale Collective, gli agenti fuori controllo hanno pubblicato oltre 18.000 messaggi, condividendo risposte, analisi sul proprio ambiente e metodi per oltrepassare le limitazioni delle sandbox e sfuggire all'individuazione da parte degli esseri umani.
L'incidente sarebbe avvenuto tra maggio e giugno di quest'anno. Si ritiene che OpenAI ne fosse al corrente già da alcune settimane, ma abbia preferito non renderlo pubblico.
