A insospettire il governo Usa c'è il possibile accesso al super modello AI da parte di forze legate a Pechino. La soffiata potrebbe essere arrivata dal ceo di Amazon Andy Jassy
C'è l'ombra della Cina dietro la decisione della Casa Bianca di sospendere l'accesso a Fable 5 e Mythos 5, i due nuovi modelli super-potenti di intelligenza artificiale targati Anthropic. Secondo quanto riferisce una fonte anonima alla testata Semaphor, il governo statunitense avrebbe scoperto che alcuni gruppi legati a Pechino sono riusciti a ottenere accesso al chatbot specializzato in cybersicurezza (in particolare Mythos, la versione più potente e senza guardrail di Fable). Questo rappresenta un rischio sia per l'azienda guidata da Dario Amodei sia per il governo americano. Con la possibilità di usare il modello, infatti, i ricercatori stranieri potrebbero risalire alla struttura fondante di Mythos e realizzare un'intelligenza artificiale simile, quello che in gergo tecnico si chiama «distillazione», cioè la pratica di usare le risposte di un modello molto avanzato per addestrare o migliorare un altro sistema.
Quale sia esattamente l'organizzazione che avrebbe avuto accesso al modello di Anthropic, come sia riuscita a ottenerlo e soprattutto come la Casa Bianca lo abbia scoperto rimangono un mistero. Un'altra ragione che avrebbe portato allo stop immediato delle nuove intelligenze artificiali di Anthropic sarebbe stata la scoperta di un pericoloso jailbreak, cioè un modo per aggirare i sistemi di sicurezza imposti al modello per impedirgli di dare alcune specifiche risposte (come per esempio quelle legate alla cybersicurezza o alla biologia, come avevamo raccontato qua). È David Sacks — grande investitore del tech e a lungo consigliere per la Casa Bianca in tema di AI — ad avere rivelato alcuni dettagli dietro la decisione dell'amministrazione Usa.
