La possibilità che sistemi di intelligenza artificiale altamente avanzati possano sfuggire al controllo umano viene nuovamente sollevata dall’interno di uno dei principali laboratori del settore. Jacob Coxon, ricercatore che ha lavorato per tre anni nella ricerca sul pretraining prima presso OpenAI e poi presso Anthropic, ha annunciato le proprie dimissioni da Anthropic criticando l'approccio adottato dalle aziende nella corsa alla superintelligenza.
Secondo Coxon, né Anthropic né OpenAI starebbero agendo in modo sufficientemente responsabile. Il ricercatore sostiene che entrambe sono impegnate in una competizione verso sistemi capaci di migliorarsi autonomamente, mettendo in secondo piano i rischi associati.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
"Stanno correndo direttamente verso una superintelligenza capace di auto-migliorarsi e stanno scommettendo con le nostre vite", ha scritto Coxon. Il concetto alla base di questa prospettiva è quello del miglioramento ricorsivo: un sistema sufficientemente avanzato potrebbe contribuire alla progettazione o al miglioramento delle generazioni successive di modelli, riducendo progressivamente la necessità di intervento umano. Una simile capacità, se raggiunta in forma completa, potrebbe accelerare considerevolmente lo sviluppo dei sistemi di IA.
