Dario Amodei, CEO di Anthropic, ha lanciato un nuovo allarme sulla velocità con cui stanno evolvendo i sistemi di intelligenza artificiale. Il problema, secondo Amodei, è molto più concreto: si stanno sviluppando sistemi sempre più capaci di agire autonomamente, ma non si sa ancora prevedere completamente il loro comportamento. Amodei sostiene che sia necessario “rallentare il ritmo con cui miglioriamo le capacità dei modelli di AI”, così da permettere alla sicurezza di tenere il passo con la tecnologia. A rendere il suo avvertimento particolarmente attuale c’è anche il recente caso che ha coinvolto Hugging Face, una delle principali piattaforme mondiali per modelli, dataset e strumenti di intelligenza artificiale open source. È, in sostanza, una sorta di grande archivio e piattaforma collaborativa dove ricercatori e sviluppatori condividono modelli di AI, dataset, codici e strumenti per costruire e addestrare sistemi di intelligenza artificiale. Per questo Hugging Face occupa una posizione centrale nell’ecosistema AI.
Durante un’esercitazione di cybersecurity, agenti sviluppati da OpenAI hanno interagito con l’infrastruttura di Hugging Face e hanno compiuto una serie di azioni che non erano state previste dagli sviluppatori. Il punto importante è che gli agenti, una volta messi nelle condizioni di raggiungere un obiettivo, utilizzare strumenti, scrivere codici e agire autonomamente, hanno trovato strategie e percorsi che gli esseri umani non avevano previsto. Un caso che la stessa azienda di San Francisco definisce un “incidente informatico senza precedenti”.
