Anthropic propone un meccanismo globale per rallentare o sospendere temporaneamente lo sviluppo dell’intelligenza artificiale di frontiera. La ragione è il rischio che i sistemi futuri arrivino a migliorare se stessi più velocemente di quanto società, governi e ricerca sulla sicurezza siano in grado di adattarsi Che cosa accade se l’AI diventa capace di contribuire sempre più alla costruzione della prossima generazione di AI? Se lo chiedono due ricercatori dell’Anthropic Institute, Marina Favaro e Jack Clark, nel report intitolato When AI builds itself. Il tema, non nuovo, è quello del “recursive self-improvement”, cioè il miglioramento circolare di sé. Non significa necessariamente che un sistema diventi autonomo, come nei film di fantascienza, ma che l’intelligenza artificiale potrebbe accelerare il proprio sviluppo aiutando a scrivere codice, progettare esperimenti, migliorare architetture, generare dati sintetici, automatizzare test e produrre nuovi strumenti per costruire modelli ancora più potenti. Secondo Anthropic, potrebbero nascerne enormi benefici, dalla ricerca scientifica alla medicina. Ma potrebbe anche aumentare il rischio di perdita di controllo da parte degli esseri umani.