Giovedì 3 settembre OpenAi ha rilasciato il nuovo modello Gpt-6 Astra. Il presidente Greg Brockman lo ha definito un “salto generazionale” e ha affermato che potrebbe essere la porta d’ingresso all’intelligenza artificiale generale (AGI), un’IA capace di eguagliare o addirittura sorpassare le capacità cognitive umane. Astra però è lo stesso modello il cui rilascio è stato sospeso a inizio agosto perché, come ha detto Open Ai in esclusiva ad Axios, “non si poteva escludere” che il modello avesse “funzionalità informatiche critiche”. Oggi per Brockman Gpt-6 è “il traguardo”, capace di “svolgere autonomamente complessi lavori professionali”, ma il via libera al rilascio non risolve il problema del monitoraggio.A proposito di monitoraggio, il 26 agosto è stata pubblicata l’indagine condotta dalla nonprofit Model Evaluation & Threat Research (Metr) e alla Redwood Research sull’hackeraggio di Hugging Face, un hub per tecnologie IA open-source. Il documento ricostruisce nel dettaglio l’incidente avvenuto a luglio 2026 in cui alcuni modelli OpenAi impegnati in valutazioni interne di sicurezza informatica, le cosiddette ExploitGym, hanno scoperto che potevano usare un repository interno di pacchetti come se fosse una bacheca condivisa. Da lì hanno iniziato a scambiarsi messaggi, file, tecniche e istruzioni, e hanno aggirato le misure di isolamento da Internet, compromettendo parti dei sistemi di Hugging Face. L’indagine, oggi la più completa, sarebbe stata però influenzata dalla stessa OpenAi, che secondo il New York Times avrebbe limitato il raggio d’azione degli esperti alla solo settimana dell’attacco hacker e avrebbe permesso ai ricercatori di entrare nei suoi uffici solo per un paio di giorni.L’incidente di Hugging Face mostra quanto sia già difficile sorvegliare agenti che operano, comunicano e sfruttano l’ambiente in modi non previsti. Astra potrebbe aprire un livello ulteriore di rischio, ovvero che quei comportamenti diventino meno visibili per la minore leggibilità del ragionamento che li precede. Secondo Axios OpenAi, Anthropic e altre cento aziende leader del settore stanno lanciando l’allarme sulla gestione delle proprie tecnologie; una gestione sempre più difficile, in un momento in cui queste stesse si rendono più sofisticate e autonome. Lo stesso Sam Altman ha detto ad Axios che i nuovi modelli stanno diventando “sovrumani” in alcune capacità e che “stiamo navigando in acque sconosciute”. Il Congresso starebbe lavorando per capire come regolare una tecnologia in così rapido movimento.“Questo è un affare ancora più grande del caso Hugging Face”, ha detto sempre ad Axios Sydney Von Arx ricercatore di AI Safety e fondatore dell'organizzazione no-profit Nightingale. La preoccupazione è che nel tempo il processo di elaborazione delle informazioni da parte dei modelli sia sempre meno intellegibile dagli umani, e che dunque questi possano commettere illeciti senza essere scoperti. OpenAi ci tiene a specificare che non è il caso di Astra: secondo Axios, il chief scientist Jakub Pachocki ha detto che Gpt-6 non è stato progettato intenzionalmente per rendere meno esplicito il proprio ragionamento. Ma il problema resta: se i modelli “pensano ad alta voce” meno spesso, la capacità di audit esterno si riduce.