Un ricercatore di Anthropic si è licenziato perché spaventato dai danni che l’intelligenza artificiale potrebbe provocare nei prossimi anni: “Nessun’altra attività umana è così pericolosa”.
"Le persone che costruiscono l'IA credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio". Queste parole non sono la profezia apocalittica di un attivista tecno-scettico, ma il grido d'allarme di chi quelle macchine ha contribuito fino a ieri a crearle e addestrarle. A pronunciarle è Jacob Coxon, ex ricercatore di Anthropic, la Big Tech di Dario Amodei. Negli ultimi mesi, l'azienda è finita al centro della bufera a causa della sua nuova famiglia di modelli, Mythos, considerati talmente potenti da rappresentare una minaccia per tutti gli altri sistemi informatici. Forse anche questo ha convinto Coxon a licenziarsi da Anthropic e affidare a un lungo thread su X tutte le sue preoccupazioni sul futuro che ci attende.
"Ho trascorso gli ultimi tre anni a fare ricerche sul pre-training sia a OpenAI che ad Anthropic. Nessuna delle due aziende sta agendo in modo responsabile", afferma Coxon. "Stanno correndo dritte verso una superintelligenza auto-migliorante e stanno giocando d'azzardo con le nostre vite." Un declino che non si può fermare Per Coxon, l'ipotesi di un'intelligenza artificiale capace di diventare una minaccia per l'esistenza stessa dell'umanità non è affatto remota. "Non sottovalutate il potere di questa tecnologia", ha spiegato. "Presto questi saranno sistemi sovrumani in grado di hackerare qualsiasi cosa, rivoluzionare qualsiasi campo dall'oggi al domani e acquisire vero potere e risorse".
