“Né Anthropic, né OpenAI stanno agendo responsabilmente”. È un atto d’accusa netto quello affidato a Twitter da Jacob Coxon, 27 anni, ricercatore britannico laureato a Cambridge, che ha annunciato le proprie dimissioni da Anthropic dopo tre anni trascorsi a fare ricerca sul pretraining nei due principali laboratori americani di intelligenza artificiale. Secondo Coxon, le due aziende stanno correndo verso la superintelligenza capace di auto-migliorarsi e, nel farlo, “stanno giocando d’azzardo con le nostre vite”. Il suo addio arriva mentre la competizione fra i grandi laboratori di IA accelera e Anthropic, azienda di San Francisco che ha costruito gran parte della propria identità pubblica proprio intorno al tema della sicurezza, si prepara a una possibile Ipo dalla valutazione potenzialmente colossale. Coxon, che prima di approdare ad Anthropic aveva lavorato proprio per OpenAI, sostiene però che dietro la corsa tecnologica si nasconda un rischio che il pubblico non ha ancora compreso fino in fondo.
“Non sottovalutate il potere di questa tecnologia” scrive il matematico. Secondo il ricercatore, i sistemi che stanno arrivando saranno presto “sovrumani“, capaci di “hackerare qualsiasi cosa, rivoluzionare qualsiasi settore dall’oggi al domani e acquisire potere e risorse reali”. Non si tratta, sostiene, di scenari puramente teorici: “Abbiamo tutti assistito ai progressi in ciascuno di questi ambiti, e il progresso non sta rallentando”. È a questo punto che Coxon riferisce ciò che, a suo dire, pensano realmente alcune delle persone che stanno sviluppando questi sistemi. “Le persone che costruiscono l’IA credono sinceramente che essa potrebbe ucciderci tutti entro la fine del decennio“, scrive. Coxon precisa che “non è una trovata di marketing” e sostiene che, anzi, nelle dichiarazioni pubbliche il linguaggio utilizzato da dirigenti e ricercatori sia spesso molto più prudente rispetto alle loro convinzioni private.
