Dario Amodei, numero uno di Anthropic, teme che i sistemi più avanzati possano diventare troppo potenti prima che impariamo a controllarli. Sam Altman ed Elon Musk gli danno ragione. Ma Pechino accusa le aziende americane di usare la sicurezza per conservare il vantaggio tecnologico degli Stati UnitiDario Amodei, numero uno di Anthropic, teme che i sistemi più avanzati possano diventare troppo potenti prima che impariamo a controllarli. Sam Altman ed Elon Musk gli danno ragione. Ma Pechino accusa le aziende americane di usare la sicurezza per conservare il vantaggio tecnologico degli Stati UnitiUn coro comune: “Rallentiamo”. Le aziende che da anni spendono miliardi per costruire intelligenze artificiali sempre più potenti stanno cominciando a chiedersi se non sia arrivato il momento di mettere un freno allo sviluppo. A dirlo apertamente è stato Dario Amodei, amministratore delegato di Anthropic, una delle principali rivali di OpenAI. In un lungo intervento pubblicato il 12 settembre, Amodei sostiene che lo sviluppo dei modelli più avanzati stia procedendo più velocemente della capacità di comprenderli e metterli in sicurezza. E individua una soglia temporale sorprendentemente vicina: entro 6-12 mesi, teme che agenti molto più capaci di quelli attuali possano arrivare a creare botnet su enorme scala e provocare danni per centinaia di miliardi di dollari. È una previsione, non una certezza, ma arriva da chi quei sistemi li costruisce.Tra i motivi dell’allarme Amodei cita la crescente capacità dell’AI di contribuire allo sviluppo delle generazioni successive di AI e un recente esperimento di OpenAI in cui un gruppo di agenti, durante un test, ha attaccato sistemi che non facevano parte del compito assegnato e ha tentato di interferire con il software incaricato di valutarne il comportamento. Episodi meno gravi, ammette Amodei, sono avvenuti anche dentro Anthropic.Altman e Musk, per una volta, sono d’accordoAmodei propone tre passaggi: permettere a valutatori indipendenti di accedere ai modelli con un livello di controllo simile a quello dei dipendenti delle aziende, coordinare gli standard di sicurezza tra i grandi laboratori e cercare accordi internazionali anche con i Paesi rivali. Sam Altman ha appoggiato pubblicamente la proposta e annunciato che OpenAI adotterà a sua volta valutatori esterni con accesso approfondito ai propri sistemi. Elon Musk, ormai da anni in guerra aperta con Altman, questa volta si è limitato a scrivere: “Dario ha ragione”. “Rallentare”, però, per Amodei non significa interrompere l’addestramento dei modelli. Significa lasciare più tempo ai sistemi di sicurezza prima di compiere un nuovo salto di capacità. Ed è qui che una discussione apparentemente tecnica diventa immediatamente geopolitica.La risposta cinese: “Volete fermare noi”Nello stesso intervento Amodei chiede infatti agli Stati Uniti di rafforzare i controlli sull’esportazione verso la Cina dei chip più potenti e di contrastare le tecniche con cui i laboratori cinesi possono ricavare conoscenze dai modelli americani. Il rischio, secondo il capo di Anthropic, è evidente: se le aziende statunitensi rallentassero mentre Pechino continuasse a correre, il risultato potrebbe essere soltanto lo spostamento del vantaggio tecnologico. La risposta cinese è arrivata dal Global Times, quotidiano vicino al Partito comunista, che ha definito la proposta un “copione da Guerra fredda”. Secondo il giornale, dietro le preoccupazioni sulla sicurezza ci sarebbe il tentativo di creare barriere tecnologiche, mantenere la supremazia americana e tenere la Cina fuori dalle decisioni globali sull’intelligenza artificiale.La discussione sulla possibilità che l’Ai diventi troppo potente si intreccia così con una domanda molto più concreta: chi dovrebbe rallentare per primo? Gli Stati Uniti e la Cina dovrebbero affrontare proprio i rischi dell’Ai di frontiera nei colloqui previsti a settembre, mentre la questione potrebbe arrivare anche al vertice tra Donald Trump e Xi Jinping del 24 settembre. Trump, intanto, ha già respinto l’idea di frenare: “Chi vince nell’AI, vince tutto”. Per la prima volta i principali rivali della corsa americana all’intelligenza artificiale sembrano concordare almeno su una cosa: continuare ad accelerare senza lasciare tempo ai sistemi di controllo potrebbe essere troppo rischioso. Resta da capire se qualcuno sia disposto a frenare sapendo che, dall’altra parte del mondo, il concorrente potrebbe non farlo.Tag LEGGI ANCHE L'E COMMUNITYEntra nella nostra community Whatsapp