Photo illustration by Michael M. Santiago/Getty Images
Un ricercatore senior a capo degli sforzi di Anthropic sull’allineamento dell’intelligenza artificiale ha dichiarato martedì che molti all’interno dell’azienda ritengono che l’AI potrebbe spazzare via l’umanità. Le sue parole arrivano dopo che un altro ricercatore ha lasciato la società, accusandola di non agire in modo responsabile.
In un post pubblicato dopo il suo avvertimento, Hubinger ha citato l’ultimo rapporto sui rischi di Anthropic e ha affermato che la minaccia posta dai modelli attuali è bassa: “Ciò che mi preoccupa è che la superintelligenza possa emergere dall’auto-miglioramento ricorsivo, che, come abbiamo detto, sta avvenendo più rapidamente di quanto pensassimo”.
Il Wall Street Journal è stato il primo a riportare la notizia dell’uscita di Coxon da Anthropic, legata alle sue preoccupazioni per la corsa allo sviluppo di sistemi di AI capaci di auto-migliorarsi e potenzialmente di minacciare l’umanità. Coxon ha dichiarato al Journal di ritenere che il mondo si stia dirigendo verso “molti degli scenari più aggressivi, nei quali già entro la fine del prossimo anno le cose potrebbero essere fuori controllo”.
Nei suoi post su X, Coxon ha messo a confronto il lavoro in OpenAI e Anthropic, osservando che i dipendenti dell’azienda che ha creato ChatGpt non hanno “interiorizzato profondamente la posta in gioco per la civiltà”. Ha affermato che in Anthropic questa posta in gioco è “ben compresa”, ma che l’azienda è “intrappolata in una corsa per arrivarci per prima”, perché al suo interno si ritiene che “nessun altro agirà responsabilmente e quindi devono farlo loro stessi, nonostante il rischio”.
