Anthropic, una delle principali aziende di intelligenza artificiale al mondo, ha preso una posizione che suona insolita per chi corre in prima fila sulla frontiera tecnologica: il mondo dovrebbe prendere in considerazione la possibilità di rallentare o sospendere temporaneamente lo sviluppo dei modelli di IA più avanzati.
La proposta arriva in chiusura di un documento dell'Anthropic Institute - il centro di ricerca dell’azienda che si occupa degli effetti dei sistemi di IA avanzati sulla società - dedicato all’intelligenza artificiale che “costruisce sé stessa” e in particolare a un fenomeno chiamato recursive self-improvement, l'auto-miglioramento ricorsivo: la capacità di un sistema IA di progettare e sviluppare, in piena autonomia, il proprio successore.
“Riteniamo che sarebbe positivo per il mondo avere la possibilità di rallentare o mettere temporaneamente in pausa lo sviluppo dell'IA di frontiera, per consentire alle strutture sociali e alla ricerca sull'allineamento di tenere il passo con l'avanzare della tecnologia”, scrive Anthropic.
Non è la prima volta che viene avanzata una richiesta di questo tipo. Nel 2023 una lettera aperta del Future of Life Institute, firmata da Elon Musk e altri imprenditori e ricercatori, invitava i laboratori di IA a sospendere per sei mesi l'addestramento dei modelli più potenti, sostenendo la necessità di sviluppare regole, standard di sicurezza e meccanismi di controllo adeguati prima di procedere verso sistemi sempre più avanzati.
