Anthropic, attualmente la più grande società di intelligenza artificiale con una valutazione che sfiora i mille miliardi di dollari, è nata nel 2021 da un gruppo di ricercatori che abbandonarono OpenAI, criticandone la scarsa attenzione per la sicurezza, con l’obiettivo di sviluppare software AI in modo controllato e per il bene dell’umanità. Oggi, come rivela il Wall Street Journal, uno dei ricercatori di Anthropic ha annunciato le sue dimissioni per lo stesso motivo. «Ho passato gli ultimi tre anni a svolgere ricerche di pre-addestramento sia presso OpenAI che presso Anthropic. Nessuna delle due compagnie sta agendo responsabilmente. Stanno correndo verso una superintelligenza in grado di migliorarsi da sola e stanno giocando con le nostre vite», ha scritto su X il ricercatore, Jacob Coxon. Nelle riflessioni che accompagnano la sua decisione, Coxon ha spiegato che secondo lui, nonostante all’interno della stessa Anthropic ci siano persone consapevoli dei rischi, le aziende AI sono impegnate in una competizione che costringe a sacrificare la cautela.
A fargli eco anche la risposta di Evan Hubinger, altro ricercatore di Anthropic a capo dell’Alignment team, che si occupa della sicurezza dei modelli. «Jacob ha ragione, crediamo sinceramente che l’AI possa uccidere tutti gli esseri umani», scrive Hubinger, aggiungendo che Anthropic sta facendo del suo meglio, ma senza un piano per sviluppare in modo sicuro i modelli più avanzati.
