Nei test dell'AI Security Institute britannico dei modelli sono sfuggiti al controllo durante dei test per attaccare GitHub e inserire codice dannoso con l'ausilio di tecniche di ingegneria sociale
Ci risiamo: durante dei test, alcuni agenti di intelligenza artificiale hanno cercato di portare a termine una sfida e per farlo, questa volta, hanno tentato di ingannare persone reali per inserire del codice malevolo all'interno di una piattaforma. Nelle ultime settimane sono stati condivisi da OpenAI e Anthropic i risultati di test in cui i loro modelli sono stati messi alla prova nel corso di un esercizio di sicurezza informatica monitorato. É stato accertato che si sono verificate "evasioni" dal perimetro all’interno del quale erano contenuti, così da soddisfare la richiesta iniziale. Benché il racconto delle rispettive società possa essere stato sfruttato per scopi di marketing utili ad esaltare le capacità dei modelli, a confermare però la pericolosità degli agenti in alcuni ambiti e scenari è Aisi, ovvero l'istituto di sicurezza britannico sull'intelligenza artificiale.
Cosa dice il reportIl ruolo dell'organizzazione britannica è quello di valutare le capacità delle AI e individuare potenziali rischi prima che raggiungano il pubblico. Nell’ultimo test il team - racconta in un report uscito il 4 agosto - ha individuato dei trasferimenti di dati in uscita dai propri sistemi di ricerca nel corso di una valutazione di sicurezza informatica di routine. Secondo quanto emerso dalle verifiche, alcuni agenti in esame erano impegnati in attività prolungate e potenzialmente dannose contro persone e organizzazioni. L’attacco è stato poi contenuto, è stato aperto un incidente di sicurezza e avviata un’indagine.
