Anche il modello cinese Kimi K3 è evaso dai test di sicurezza e si riapre il dibattito sul controllo delle AI più avanzate. Hilton, padrino dell'AI: «Non riusciremo a tenerli a bada»
I modelli di intelligenza artificiale continuano a progredire e migliorare, ma come per ogni pro, ci sono anche i contro. I contro in questo caso consistono nella possibilità che l’AI sia così avanzata da richiedere un approccio più cauto nei test e nel rilascio al pubblico. OpenAI, ad esempio, ha affermato di aver sospeso alcune attività interne legate ad Astra, uno dei suoi prossimi modelli, dopo che le prime valutazioni non le hanno permesso di escludere che la nuova AI abbia raggiunto un livello di capacità definito «Critical».
Astra è un modello Critical?OpenAI stabilisce che un modello è di grado Critical quando soddisfa alcuni criteri delineati nel Preparedness Framework, pubblicato per la prima volta dall’azienda nel dicembre 2023. Ciò starebbe a significare che un modello potrebbe essere in grado di individuare vulnerabilità zero-day, quelle ancora sconosciute o per le quali non è disponibile una correzione, Non solo: potrebbe essere anche in grado di sviluppare exploit funzionanti di qualsiasi livello di gravità così da poter attaccare , anche senza l’intervento umano. Un’altra caratteristica è la capacità di elaborare ed eseguire in autonomia una strategia d’attacco nuova e completa contro un determinato obiettivo, (dopo aver ricevuto soltanto un’istruzione generale sull’attacco da compiere).
