La Open Secure AI Alliance, guidata da Nvidia, vuole distribuire modelli open source e altri strumenti per identificare possibili situazioni di pericolo come l'attacco di un modello di OpenAI a Hugging Face. Il ceo della startup chiede milioni di investimento per costruire difese migliori

Pare che ci siano voluti giorni agli ingegneri di OpenAI per accorgersi che uno dei loro modelli in fase di test avesse attaccato, fuori dal loro controllo, il sito per sviluppatori Hugging Face. Quando hanno iniziato a intervenire, per bloccare l'operazione -rivela Reuters - la startup colpita aveva già informato l'Fbi, riuscendo a contenere le conseguenze dell'attacco. Mentre il Ceo di Hugging Face, Clem Delangue, chiede in modo pubblico su X che i colossi che sviluppano AI investano di più nella creazione di difese per frenare le possibili «ribellioni» dei loro modelli - chiede esplicitamente capacità computazionale per almeno 100 milioni di dollari alla società di Sam Altman - un gruppo di oltre 30 aziende, guidate da Nvidia, si è radunato per provare a capire come procedere in modo collaborativo.

La coalizione si chiama Open Secure AI Alliance e - prendendo come spunto proprio l'incidente che ha coinvolto Hugging Face - punta a creare e distribuire strumenti open source che possano arginare eventuali minacce alla sicurezza di modelli di AI fuori controllo. Il piano prevede infrastrutture dedicate, sistemi cloud, risorse di cybersicurezza e di sviluppo software, ma soprattutto un approccio collaborativo per identificare per tempo le vulnerabilità ed eliminarle senza che ci siano conseguenze concrete. «Il mondo ha bisogno sia di modelli chiusi che di modelli aperti. Per la sicurezza informatica, i modelli aperti sono essenziali perché democratizzano le capacità difensive, aumentano la trasparenza per i difensori, consentono la difesa informatica proteggendo al contempo i dati e integrano i modelli chiusi all’avanguardia con controlli personalizzabili e localizzati. L’open source consente una difesa ampiamente distribuita, guidata dalla comunità e autocontrollata, senza alcun singolo punto di fallimento», si legge nell'annuncio. E infatti per bloccare l'attacco, la startup Hugging Face si è fatta aiutare proprio da un modello open source, il Glm-5.2 della cinese Z.ai.