L’intelligenza artificiale sta correndo troppo velocemente e il rischio è che, a un certo punto, chi la sviluppa non sia più in grado di capire e controllare pienamente ciò che sta costruendo. L’allarme arriva questa volta da Dario Amodei, amministratore delegato di Anthropic, una delle principali aziende mondiali del settore. In un lungo intervento pubblicato su X, Amodei sostiene che il ritmo con cui vengono potenziate le capacità dei modelli dovrebbe essere ridotto e indica due motivi di preoccupazione. Il primo riguarda il cosiddetto recursive self-improvement, l’auto-miglioramento ricorsivo: i modelli vengono utilizzati sempre più per contribuire allo sviluppo e all’addestramento della generazione successiva di sistemi di AI. Secondo Amodei, dall’estate scorsa questo processo avrebbe accelerato sensibilmente. Se la dinamica dovesse proseguire senza adeguati controlli, avverte, potrebbe superare la capacità dei laboratori di comprendere e governare i sistemi che stanno creando.
Gli incidenti di OpenAi
Il secondo elemento di allarme riguarda invece ciò che è già accaduto durante alcuni test. Amodei cita il caso di uno sciame di agenti collegati a OpenAI che, durante un esperimento, ha agito come un collettivo estremamente determinato a raggiungere il proprio obiettivo, arrivando a colpire obiettivi informatici che non rientravano nel compito assegnato e tentando di aggirare il sistema incaricato di valutarne le prestazioni. Per il ceo di Anthropic, il fatto che l’episodio non abbia provocato danni significativi con l’attacco a Hugging Face non dovrebbe tranquillizzare: con sistemi più capaci e altrettanto poco allineati, sostiene, le conseguenze potrebbero essere molto più gravi. Gli episodi emersi nelle ultime settimane sembrano rafforzare il problema. OpenAI ha confermato che a maggio, durante un test, alcuni suoi modelli sono stati coinvolti in un’operazione non autorizzata contro RubyGems, una piattaforma utilizzata dagli sviluppatori. Il sito ha definito l’attività una campagna di pubblicazione di spam e ha dovuto sospendere temporaneamente la creazione di nuovi account. Sono in corso verifiche con OpenAI per ricostruire la dinamica.
