NVIDIA ha annunciato la nascita di Open Secure AI Alliance, una coalizione che riunisce diverse aziende con l'obiettivo di sviluppare e condividere strumenti dedicati alla sicurezza dell'intelligenza artificiale e alla cybersecurity. Tra i membri fondatori figurano nomi del calibro di Adobe, CrowdStrike, Hugging Face, Dell Technologies, Cisco e Microsoft.
L'annuncio arriva pochi giorni dopo il caso che ha coinvolto un agente di OpenAI, episodio che ha riportato l'attenzione sui rischi legati alla perdita di controllo dei sistemi autonomi. Secondo quanto comunicato, l'agente alimentato dall'IA ha effettuato un'intrusione nei sistemi di Hugging Face e ha proseguito con ulteriori attività di hacking prima che la minaccia venisse contenuta e l'FBI ricevesse la segnalazione.
Per NVIDIA, imporre limitazioni generalizzate ai modelli AI open-weight rischierebbe di ridurre la capacità di difesa e di accentrare potere, dipendenza e vulnerabilità nelle mani di pochi fornitori che utilizzano piattaforme chiuse. La società sta promuovendo quindi un approccio che favorisca la collaborazione tra aziende e comunità di sviluppo.
L'iniziativa segue anche la pubblicazione della lettera "Open Weights and American AI Leadership", sottoscritta da numerose aziende, compresa OpenAI, che invita i decisori politici a sostenere i modelli AI open-weight. Si tratta di sistemi che rendono accessibili i dati di addestramento del modello, mentre gli strumenti open source mettono a disposizione il codice affinché possa essere ispezionato, migliorato e condiviso.
