“Quello che vediamo oggi è niente rispetto a quello che può accadere da qui alla fine dell’anno: la cybersicurezza deve cambiare completamente approccio”.
“Quello che vediamo oggi è niente rispetto a quello che può accadere da qui alla fine dell’anno: la cybersicurezza deve cambiare completamente approccio”. È l’avvertimento più netto di Mariarosaria Taddeo, professoressa all'Oxford Internet Institute dell'Università di Oxford, filosofa esperta di etica digitale e tecnologie della difesa, che da una parte smonta lo “scaricabarile” delle aziende Usa sui propri agenti e dall’altra chiede standard e governance per affrontare l’imprevedibilità crescente, quella sì, dell’AI e di chi l’addestra.
Dopo l’incidente dell’attacco informatico degli agenti autonomi di OpenAI ad Hugging Face, sembra essersi scatenata una “corsa all’incidente informatico”. Ne hanno parlato sia Anthropic che Meta, mentre incidenti sono stati riportati anche da un istituto di ricerca in Gran Bretagna. OpenAi intanto ha fornito dettagli sull’attacco che ha scatenato tutto, rivelando che non si era accorta del fatto che gli agenti messaggiassero tra loro.
“Le mie posizioni partono dal linguaggio: nelle dichiarazioni si usa un registro antropomorfizzante (‘agli agenti piace ingannare’, ‘sono allenati sotto pressione’). Questo non è un dettaglio: con quel linguaggio si avvia una delega di responsabilità. Come se il cane che si comporta male lo facesse solo di testa sua e non per colpa di chi lo ha addestrato. Il linguaggio va corretto subito, perché attraverso queste metafore si seminano premesse per scaricare responsabilità. E allora: chi è responsabile quando questi agenti faranno cose simili nel mondo reale?”.
