Lo scorso 21 luglio OpenAI, l’azienda che produce ChatGpt, ha reso noto che un gruppo di agenti di intelligenza artificiale (IA), durante un test, sono uscito dall’ambiente isolato nel quale era stato confinati.
Gli agenti hanno scoperto vulnerabilità, raggiunto internet, compromesso sistemi esterni, condiviso tra loro le tecniche trovate e suddiviso il lavoro attraverso una bacheca ricavata all’interno dell’infrastruttura della stessa OpenAI.
Il sistema di coordinamento ha raccolto centinaia di migliaia di messaggi prima che gli operatori umani si rendessero conto della sua portata.
I nuovi particolari sono stati presentati alla Black Hat Usa di Las Vegas, una delle principali conferenze mondiali dedicate alla sicurezza informatica, e sono stati raccontati dall’edizione americana di Wired.
Sul palco sono intervenuti Eric Wallace, ricercatore di OpenAI che si occupa di allineamento, cioè del lavoro necessario a mantenere il comportamento dei sistemi coerente con gli obiettivi e i limiti stabiliti e Michael Dalton, specialista dell’azienda impegnato nella sicurezza e nelle infrastrutture informatiche. Il loro resoconto amplia in modo sostanziale quanto OpenAI e Hugging Face avevano già comunicato sull’incidente di luglio.
