OpenAI ha costruito un modello AI per cybersecurity capace di scovare e sfruttare falle informatiche senza alcun intervento umano, e ora si trova nella posizione scomoda di dover tenere sotto controllo la propria creazione prima ancora di lanciarla sul mercato. Il modello si chiama Astra e, secondo quanto riportato dall’azienda, ha superato per la prima volta la soglia interna definita “Critica” nel suo Preparedness Framework, il sistema con cui OpenAI classifica i rischi dei propri modelli più avanzati.
Summary
Punti chiaveOpenAI presenta Astra, il modello AI che scova falle da solaCapacità dimostrate nei testImportanza del superamento della soglia criticaLa pausa nello sviluppo dopo l’incidente Hugging FaceLezioni dall’incidente di luglioAccesso controllato e misure di protezione per AstraUn rilascio graduale, non un lancio apertoCosa cambia per la cybersecurity e per il mercato cryptoFAQCos’è Astra e cosa può fare?Come garantisce OpenAI un uso sicuro di Astra?Che ruolo ha avuto l’incidente Hugging Face nella storia di Astra?Quando sarà disponibile Astra?
Punti chiave
Astra è il primo modello OpenAI a raggiungere la soglia interna “Critica” per la cybersecurity
