A pochi giorni dal lancio di GPT-6 Astra, OpenAI torna a parlare pubblicamente dei rischi associati alla rapida evoluzione dei sistemi di intelligenza artificiale. In due interventi pubblicati il 6 settembre, l'azienda ha da una parte diffuso alcuni dati interni sull'automazione della propria attività di ricerca e dall'altra affidato al chief scientist Jakub Pachocki un appello a rallentare lo sviluppo dei sistemi più avanzati.
Nel suo saggio, intitolato An Alien Mind, Pachocki sostiene che le attuali tecniche di allineamento e monitoraggio non siano ancora sufficientemente mature per consentire di proseguire a lungo con l'attuale ritmo di crescita. "Attualmente ritengo che nessun laboratorio abbia risolto l'allineamento e il monitoraggio a un livello sufficiente per continuare responsabilmente a espandere le capacità alla massima velocità ancora per molto tempo", ha scritto il ricercatore.
Pachocki auspica quindi che eventuali rallentamenti volontari diventino una pratica comune fino alla definizione di criteri di sicurezza condivisi a livello dell'intero settore. Il chief scientist di OpenAI ha espresso in modo esplicito la propria preoccupazione: "Questo è un momento che richiede estrema cautela. Temo che nessuno sia preparato alle conseguenze di una continua e rapida crescita dell'intelligenza delle macchine".
