L’avvertimento di Jacob Coxon fa tremare i polsi. “Ho trascorso gli ultimi tre anni sia in OpenAI che in Anthropic. Nessuna delle due sta agendo responsabilmente. Stanno giocando d’azzardo con le nostre vite. Presto l’AI sarà in grado di hackerare qualsiasi cosa e rivoluzionare ogni campo dall’oggi al domani. Le persone che costruiscono questa tecnologia pensano che potrebbe ucciderci tutti entro la fine del decennio”. È per questa ragione che il ricercatore ventisettenne ha rassegnato le dimissioni da Anthropic, dove si occupava di pre-addestramento dei modelli. Il suo lavoro, per intenderci, è di insegnare agli agenti di intelligenza artificiale a diventare autonomi. Secondo lui fin troppo autonomi.
L’accusa di sottovalutazione del rischio rivolta alle Big Tech è pesantissima, le aziende starebbero investendo senza tenere conto delle conseguenze sull’umanità. E in parte lo confermano le stesse aziende. Il post di Coxon - che ha lasciato la società senza riscattare le quote, a differenza di tanti altri colleghi che hanno rinunciato al posto ma non ai diritti azionari – diventa virale e viene ricondiviso nel giro di poco da Evan Hubinger, dirigente di Anthropic. Ti aspetti una difesa a spada tratta dell’azienda, e invece no: “Jacob ha ragione, crediamo che l’AI possa uccidere tutti gli esseri umani”, scrive, lanciandosi persino in percentuali. “Penso che ci sia più del 10% di probabilità che accada entro il prossimo decennio. Anthropic sta facendo del suo meglio per scongiurare questa eventualità, ma non abbiamo ancora un piano e non siamo sulla strada giusta per farlo”.
