Anthropic ha annunciato che disattiverà i due modelli di intelligenza artificiale che aveva lanciato solo pochi giorni fa, Claude Fable 5 e Mythos 5, per conformarsi a una direttiva ricevuta venerdì pomeriggio dal governo degli Stati Uniti, che introduce controlli sulle esportazioni legati a ragioni di sicurezza nazionale.Lo stop a Fable 5Si tratta di una decisione senza precedenti, che segna l’ultimo fronte di scontro tra Anthropic e l’amministrazione di Donald Trump. Anthropic ha comunicato che l’ordine chiedeva di sospendere l’accesso ai sistemi coinvolti per “qualsiasi cittadino straniero, dentro o fuori dagli Stati Uniti, compresi i dipendenti stranieri di Anthropic”. Ma per garantire il rispetto della direttiva, la società ha deciso di bloccare i nuovi modelli per tutti i clienti.All’inizio dell’anno, il dipartimento della Difesa statunitense aveva classificato Anthropic come un “rischio per la supply chain”, dopo che lo sviluppatore di Claude aveva cercato di porre dei limiti all’uso della sua tecnologia da parte dell’esercito statunitense. La designazione di fatto impedisce alle agenzie governative e agli appaltatori federali di utilizzare i sistemi di Anthropic, che ha risposto facendo causa al governo Trump.Il 9 giugno l'azienda ha reso disponibile al pubblico Claude Fable 5, una versione modificata di un altro suo discusso modello, Mythos preview, dotata però di misure di protezione che impediscono all'AI di rispondere a domande su sicurezza informatica, biologia e chimica. Prima del lancio pubblico, che secondo Anthropic sarebbe avvenuto in collaborazione con il governo americano, l'accesso a Mythos era stato distribuito in forma limitata. L’obiettivo era dare a un gruppo selezionato di aziende e organizzazioni la possibilità di sfruttarne le capacità nel campo della sicurezza informatica per migliorare le proprie difese, e allo stesso tempo placare i timori che la tecnologia potesse essere usata per sviluppare strumenti avanzati impiegabili per attacchi informatici.La versione di AnthropicIn un post pubblicato il 12 giugno sul proprio blog aziendale, Anthropic afferma di avere ricevuto una “lettera” dal governo, che “non forniva dettagli specifici sulle preoccupazioni legate alla sicurezza nazionale”.“A quanto comprendiamo, il governo ritiene di essere venuto a conoscenza di un metodo per aggirare [le protezioni di] Fable 5 o effettuare un jailbreak”, ha scritto l'azienda. “Abbiamo esaminato una dimostrazione in cui questa tecnica specifica veniva usata per individuare un piccolo numero di vulnerabilità minori già note. Tutte queste vulnerabilità sembrano relativamente semplici e abbiamo verificato che anche altri modelli disponibili pubblicamente sono in grado di scoprirle senza dover aggirare le misure di protezione”.Nel suo post, l’azienda sottolinea di avere implementato misure di protezione robuste per ridurre il rischio di usi impropri di Claude Fable 5. Aggiunge che il jailbreak di Claude Fable 5 individuato dal governo degli Stati Uniti era limitato e non avrebbe reso un eventuale aggressore sensibilmente più pericoloso rispetto a un altro modello di AI.“Finora il governo ci ha fornito solo prove verbali di un potenziale jailbreak limitato e non generalizzabile, che consiste essenzialmente nel chiedere al modello di leggere una specifica codebase e correggere eventuali difetti software”, si legge nel post. I portavoce della Casa Bianca e del dipartimento del Commercio degli Stati Uniti non hanno risposto immediatamente alla richiesta di commento di Wired.All’inizio della settimana, Dario Amodei, amministratore delegato di Anthropic, aveva scritto che lui e la sua azienda sono favorevoli a un processo governativo equo, strutturato e trasparente per impedire il rilascio di modelli di AI non sicuri. Ma nel post di venerdì, Anthropic ha osservato che la nuova misura “non rispetta quei principi”.Questo articolo è apparso originariamente su Wired US.