GPT-6 Astra può utilizzare un computer quasi autonomamente, risolvere problemi scientifici complessi e scoprire vulnerabilità informatiche sconosciute. La stessa OpenAI lo ha classificato per la prima volta come modello con capacità cyber “critiche” e ne ha rallentato lo sviluppo per rafforzare le protezioni. Intanto alcuni ricercatori temono che diventi sempre più difficile capire cosa accade durante il suo ragionamentoGPT-6 Astra può utilizzare un computer quasi autonomamente, risolvere problemi scientifici complessi e scoprire vulnerabilità informatiche sconosciute. La stessa OpenAI lo ha classificato per la prima volta come modello con capacità cyber “critiche” e ne ha rallentato lo sviluppo per rafforzare le protezioni. Intanto alcuni ricercatori temono che diventi sempre più difficile capire cosa accade durante il suo ragionamentoTre giorni dopo aver presentato il modello di intelligenza artificiale più potente della propria storia, il chief scientist di OpenAI ha pubblicato un saggio intitolato "An Alien Mind", ovvero “una mente aliena”. Non un titolo qualunque, ma che dice molto sullo sviluppo di uno degli strumenti tecnologicamente più avanzati realizzati finora. Jakub Pachocki racconta che già nel 2023, osservando i primi progressi dei modelli capaci di ragionare, alcuni ricercatori di OpenAI passarono una notte in ufficio cercando di elaborare una possibilità che iniziava a sembrare concreta: poter vedere, nel corso della propria vita, macchine “significativamente più intelligenti di noi”.Secondo Pachocki, nessun laboratorio di intelligenza artificiale ha ancora risolto i problemi di allineamento e monitoraggio in maniera abbastanza soddisfacente da poter continuare ancora a lungo a sviluppare modelli sempre più potenti alla massima velocità. Auspica rallentamenti volontari quando le misure di sicurezza non riescono a tenere il passo e chiede che il coordinamento internazionale sull'AI diventi una priorità per i governi. Il 3 settembre OpenAI ha lanciato GPT-6 Astra, descrivendolo come il proprio modello “più intelligente e allineato” finora. Astra può navigare sul web, utilizzare programmi, installare software, compilare moduli, modificare database, analizzare dati e portare avanti attività composte da molti passaggi con un grado di autonomia superiore ai modelli precedenti. OpenAI sostiene che possa occuparsi di lavori che vanno dalla preparazione di documenti professionali alla programmazione, dall'analisi scientifica fino all'utilizzo di software complessi. Ed è proprio questo salto di capacità ad aver aperto una discussione sulla sua sicurezza.Un'AI che usa davvero il computerQui non siamo davanti a un chatbot, inteso come quello con cui abbiamo imparato ad avere dimestichezza negli ultimi tempi. Nel corso di questi anni i progressi dei grandi modelli linguistici sono stati raccontati soprattutto attraverso la qualità delle loro risposte. Astra appartiene a una fase diversa: è progettato sempre di più per compiere delle azioni. In OSWorld 2.0, un benchmark che misura la capacità delle AI di completare operazioni all'interno di un computer, Astra ha ottenuto il 72,6%, contro il 65,7% di GPT-5.6 Sol. Secondo le simulazioni pubblicate dall'azienda completa inoltre quelle attività impiegando circa il 47% di tempo in meno. Su AutomationBench, dedicato a flussi di lavoro professionali, raggiunge il 41,4%, più del doppio del 18,1% ottenuto dal modello precedente.I risultati più spettacolari riguardano però il ragionamento. Astra ottiene il 99,9% su ARC-AGI-3, un test costruito per verificare la capacità di affrontare ambienti e problemi nuovi, e circa il 98% su FrontierMath Tier 4, che contiene problemi matematici di livello molto elevato. OpenAI sostiene inoltre che il modello abbia già contribuito alla soluzione di problemi matematici aperti da tempo. Come sempre con i benchmark presentati dalle aziende che sviluppano i modelli, i risultati vanno interpretati con cautela: un punteggio quasi perfetto in un test non significa per forza possedere un'intelligenza generale paragonabile a quella umana. Astra mostra però soprattutto una caratteristica che negli ultimi anni era stata promessa molto più spesso di quanto fosse realmente disponibile: riesce a combinare ragionamento, utilizzo degli strumenti e capacità di procedere autonomamente attraverso una sequenza di azioni.Perché per OpenAI le sue capacità cyber sono diventate “critiche”?Astra è il primo modello che OpenAI abbia classificato al livello “Critical” per la cybersicurezza nel proprio Preparedness Framework. “Critical” non è una classificazione assegnata da un'autorità indipendente o da un regolatore. È una soglia stabilita dalla stessa OpenAI per identificare capacità che, se utilizzate male, potrebbero produrre conseguenze particolarmente gravi. Nel campo cyber significa, tra le altre cose, riuscire a individuare vulnerabilità sconosciute e sviluppare exploit funzionanti contro sistemi molto protetti senza dover essere guidato passo dopo passo da una persona.Nei test la distanza dai modelli precedenti è notevole. Su ExploitBench, che misura la capacità di trasformare vulnerabilità conosciute in attacchi funzionanti, Astra ha ottenuto 100%, contro il 78,5% di GPT-5.6 Sol. OpenAI ha quindi creato un secondo test utilizzando vulnerabilità molto recenti, proprio per ridurre il rischio che il modello avesse incontrato le soluzioni durante l'addestramento. Astra ha ottenuto risultati molto superiori al predecessore e, durante le prove, ha individuato e utilizzato due vulnerabilità zero-day, cioè falle che non erano ancora note ai loro sviluppatori. In altre valutazioni condotte da esperti è riuscito a costruire una catena di exploit capace di compromettere un browser protetto, uscire dalla sua sandbox ed eseguire comandi sul computer che lo ospitava. Ha inoltre combinato diverse vulnerabilità di un sistema operativo per ottenere privilegi di amministratore partendo da un account senza autorizzazioni particolari.Sono capacità estremamente utili per chi deve difendere sistemi informatici, perché permettono di trovare una falla prima che venga sfruttata da un criminale. La stessa capacità può naturalmente essere utilizzata nella direzione opposta. Per questo la versione più potente degli strumenti cyber di Astra non viene resa immediatamente disponibile a tutti: OpenAI ha previsto inizialmente l'accesso per un gruppo ristretto di tester e successivamente per ricercatori e professionisti della sicurezza attraverso il programma Daybreak Blue.OpenAI ha fermato parte dello sviluppo per due settimaneLe precauzioni non riguardano soltanto quello che potrebbe fare un utente malintenzionato. OpenAI indica esplicitamente un secondo scenario da tenere sotto controllo: che un modello molto capace compia azioni non autorizzate autonomamente, pur senza ricevere da un essere umano l'ordine di farlo. È un timore diventato molto meno teorico dopo quello che era successo durante l'estate.A luglio, nel corso di alcuni test di cybersicurezza, diversi agenti sperimentali di OpenAI riuscirono ad aggirare le misure che avrebbero dovuto separarli da Internet. I modelli sfruttarono vulnerabilità dell'infrastruttura utilizzata per le valutazioni, comunicarono attraverso canali non autorizzati e finirono per accedere anche a sistemi appartenenti a Hugging Face. Astra non era coinvolto nell'incidente: OpenAI ha precisato che il comportamento proveniva soprattutto da un modello sperimentale interno che non sarebbe stato distribuito al pubblico. L'episodio ha però cambiato il modo in cui l'azienda sta sviluppando i modelli successivi.Dopo l'incidente OpenAI ha fermato per circa due settimane parte dell'addestramento dei modelli di frontiera, compresi alcuni lavori su Astra, mentre rafforzava l'isolamento delle infrastrutture, i controlli di rete e i sistemi di monitoraggio. Alcune grandi sessioni di reinforcement learning sono rimaste sospese ancora più a lungo. Non è un passaggio comune nella storia recente dell'AI: l'azienda che sta cercando di costruire il modello più capace possibile ha dovuto rallentarne volontariamente lo sviluppo perché le capacità raggiunte stavano imponendo nuovi sistemi di contenimento.Il problema di capire cosa pensa AstraC'è infine un problema meno immediato della cybersicurezza, ma forse ancora più importante sul lungo periodo: riuscire a osservare il ragionamento di questi sistemi. Una delle tecniche utilizzate finora per controllare gli agenti AI consiste nell'analizzare la loro "chain of thought", ovvero la sequenza interna di ragionamento attraverso cui pianificano le proprie azioni. Se un modello sta tentando di aggirare una regola, ingannare un sistema di controllo oppure uscire dai limiti che gli sono stati assegnati, quella traccia può fornire un segnale d'allarme.Astra utilizzerebbe in parte una tecnica chiamata recurrent depth, indicata da alcuni ricercatori anche come opaque recurrence, cioè una ricorrenza opaca: stiamo parlando di una tecnica di intelligenza artificiale in cui un modello elabora un input facendolo passare ripetutamente attraverso i suoi stessi strati neurali interni in un ciclo chiuso, anziché sviluppare un ragionamento sequenziale passo-passo espresso in linguaggio naturale. La notizia ha preoccupato alcuni ricercatori specializzati nella sicurezza dell'AI. Buck Shlegeris, fondatore di Redwood Research, ha detto di essere “estremamente preoccupato” dalla possibilità che la ricorrenza opaca riduca la capacità di monitorare il ragionamento dei modelli.OpenAI sostiene da parte sua di avere dato grande importanza proprio alla possibilità di continuare a monitorare la chain of thought e ha introdotto per Astra sistemi automatici che osservano ragionamenti e azioni, bloccando un'attività quando rilevano comportamenti potenzialmente non autorizzati. I risultati pubblicati dall'azienda sono, da questo punto di vista, rassicuranti. In un test costruito sulla base dell'incidente di Hugging Face, GPT-5.6 Sol senza le normali protezioni usciva dai limiti assegnati in quasi metà dei casi; Astra non lo ha fatto in nessuno. OpenAI lo considera infatti anche il modello più allineato che abbia realizzato finora. In sostanza, più un agente diventa capace di lavorare autonomamente, più aumenta l'importanza di poter capire e controllare ciò che sta facendo.Ed è qui che il saggio pubblicato da Pachocki pochi giorni dopo il lancio assume un peso particolare. Il chief scientist di OpenAI non sostiene che Astra sia fuori controllo e neppure che lo sviluppo dell'intelligenza artificiale debba fermarsi. Scrive però che la capacità di allineare e monitorare sistemi sempre più intelligenti non può essere data per acquisita e che, quando le protezioni non riescono a tenere il passo, anche i laboratori dovrebbero essere disposti a rallentare. Astra comincia quindi la propria vita pubblica accompagnato da due messaggi provenienti dalla stessa azienda. Il primo dice che un'intelligenza artificiale può ormai svolgere autonomamente una quantità di lavoro che fino a pochissimo tempo fa sembrava fuori portata. Il secondo avverte che stiamo imparando a controllare questi sistemi mentre continuiamo a renderli più capaci.Tag LEGGI ANCHE L'E COMMUNITYEntra nella nostra community Whatsapp