Quando l'anno scorso Anthropic è diventata la prima grande azienda di intelligenza artificiale a ricevere un'autorizzazione dal governo degli Stati Uniti che dava il via libera agli usi confidenziali della sua tecnologia, applicazioni militari incluse, la notizia non ha fatto molto scalpore. Lo stesso non si può però dire per un secondo sviluppo, arrivato la settimana scorsa: il dipartimento della Difesa sta mettendo in discussione i suoi rapporti con l'azienda, che comprendono un contratto da 200 milioni di dollari. E a quanto pare il motivo è che Anthropic, da sempre attenta alla sicurezza, non vuole che la sua tecnologia venga impiegata per operazioni letali.Le frizioni tra Pentagono e AnthropicNon solo. Il Pentagono potrebbe addirittura classificare la società dei fratelli Amodei come un "rischio per la catena di approvvigionamento", un marchio di infamia solitamente riservato alle aziende che fanno affari con paesi finiti sotto la lente d'ingrandimento delle agenzie federali, come la Cina. Se la minaccia dovesse concretizzarsi, il dipartimento della Difesa (o della “Guerra” come è stato ribattezzato di recente) interromperebbe ogni rapporto con le realtà che si affidano all'AI di Anthropic per attività legate alla difesa.In una dichiarazione a Wired, il portavoce del Pentagono Sean Parnell ha confermato che Anthropic è nel mirino. "La nostra nazione richiede che i nostri partner siano disposti ad aiutare i nostri combattenti a vincere in qualsiasi battaglia. In definitiva, si tratta delle nostre truppe e della sicurezza del popolo americano", ha affermato Parnell. Il messaggio è rivolto anche alle altre aziende del settore: OpenAI, xAI e Google, che hanno tutte contratti in essere con il dipartimento della Difesa, stanno facendo i salti mortali per ottenere il nulla osta che era stato concesso ad Anthropic.Il caso è decisamente ingarbugliato. Innanzitutto, c'è da chiedersi se il governo statunitense stia punendo Anthropic perché la società si era lamentata del presunto ruolo di Claude, il suo modello di AI, nel raid che ha rimosso il presidente venezuelano Nicolás Maduro (almeno stando alle ricostruzioni: l'azienda nega). A questo va aggiunto che la società sostiene pubblicamente la necessità di regolamentare l'intelligenza artificiale, una posizione anomala nel settore e in contrasto con le politiche dell'amministrazione di Donald Trump. Ma c'è una domanda ancora più grande e più preoccupante da considerare: le richieste da parte del governo americano di poter usare l'AI per scopi militari renderanno la tecnologia meno sicura?Ricercatori e dirigenti ritengono che l'AI sia la tecnologia più potente mai inventata. Praticamente tutte le attuali società nel campo sono state fondate sulla premessa che raggiungere l'Agi, la cosiddetta intelligenza artificiale generale (o superintelligenza), sia possibile senza infliggere danni significativi e diffusi alla società. Elon Musk, il fondatore di xAI, era un tempo il più grande sostenitore di una limitazione dell'AI: ha co-fondato OpenAI proprio perché temeva che la tecnologia fosse troppo pericolosa per essere lasciata nelle mani di aziende a scopo di lucro.La tensione tra sicurezza e usi militariAnthropic si è imposta come l'azienda più attenta alla sicurezza tra quelle nel settore. La sua missione è quella di integrare a tal punto i guardrail nei propri modelli da impedire ad attori malintenzionati di sfruttare il potenziale più oscuro dell'AI. È il concetto illustrato per primo da Isaac Asimov nelle sue leggi della robotica: Un robot non può recare danno a un essere umano né può permettere che, a causa del suo mancato intervento, un essere umano riceva danno. Anche quando l'intelligenza artificiale diventerà più intelligente di qualsiasi persona – un'eventualità in cui i leader dell'intelligenza artificiale credono ardentemente – queste barriere di sicurezza dovranno reggere.Sembra quindi contraddittorio che i principali laboratori di AI si stiano affannando per infilare i loro prodotti in operazioni militari e di intelligence. Come prima importante azienda a cui è stato concesso un contratto che prevede usi riservati, Anthropic fornisce al governo statunitense una "serie personalizzata di modelli Claude Gov costruiti esclusivamente per i clienti nel settore della sicurezza nazionale degli Stati Uniti". Ma la società ha dichiarato che l'impegno non viola i suoi standard di sicurezza, che comprendono il divieto di utilizzare Claude per produrre o progettare armi.L'amministratore delegato di Anthropic Dario Amodei ha dichiarato espressamente non voler che Claude sia coinvolto nello sviluppo o impiego di armi autonome, né in attività di sorveglianza governativa. L'approccio però potrebbe non conciliarsi granché con l'attuale amministrazione. Il dirigente del Pentagono Emil Michael (ex chief business officer di Uber) ha recentemente dichiarato ai giornalisti che il governo non tollererà che un'azienda di AI limiti il modo in cui l'esercito utilizza la tecnologia nelle sue armi. "Se c'è uno sciame di droni che parte da una base militare, quali sono le opzioni per abbatterlo? Come si risponde se il tempo di reazione umano non è abbastanza rapido?", ha chiesto retoricamente. Con tanti saluti alla prima legge della robotica.Si può sostenere con buoni argomenti che per essere efficace la sicurezza nazionale richieda le migliori tecnologie delle aziende più innovative di un paese. Mentre fino a pochi anni fa diverse società tech avevano riserve a lavorare con il Pentagono, nel 2026 le aziende del settore sono in genere entusiaste all'idea di diventare appaltatori militari. E se da una parte non ho ancora sentito nessun dirigente di un'azienda AI esprimersi sulla possibilità che i suoi modelli siano associati alla forza letale, c'è anche chi come l'amministratore delegato di Palantir Alex Karp non si fa problemi a dire con apparente orgoglio cose come: "Il nostro prodotto a volte viene usato per uccidere delle persone".Gli Stati Uniti potrebbero anche riuscire a usare con impunità i muscoli della loro AI contro un paese come il Venezuela. Ma quando gli avversari più sofisticati si sentiranno costretti a fare altrettanto, il risultato sarà una corsa agli armamenti a tutto campo. E a quel punto il governo americano avrà probabilmente poca pazienza per le aziende di AI che si impuntano su eccezioni o distinzioni giuridiche sulla definizione di "uso legale" in merito a una pratica letale (a maggior ragione se si tratta di un governo che si sente in diritto di ridefinire la legge per giustificare quelli che molti considerano crimini di guerra). La dichiarazione del Pentagono lo dice esplicitamente: se le aziende di intelligenza artificiale vogliono collaborare con il dipartimento della Difesa, devono impegnarsi a fare tutto il necessario per vincere.Una visione di questo tipo potrà anche avere senso per il Pentagono, ma spinge gli sforzi per creare un'AI sicura nella direzione sbagliata. Se si sviluppa una forma di intelligenza artificiale che non faccia del male alle persone, è controproducente lavorare anche su versioni che offrono la forza letale. Solo pochi anni fa, governi e dirigenti del settore tecnologico discutevano seriamente di organismi internazionali in grado di aiutare a monitorare e limitare gli usi dannosi dell'AI. Oggi non se ne parla più molto. Che il futuro della guerra sia l'AI è ormai scontato. E ancora più spaventoso è il fatto che il futuro della stessa AI potrebbe essere più aperto alle violenze che di solito si vedono nelle guerre, se le aziende che la producono e le nazioni che la utilizzano non si preoccupano di contenere la tecnologia.L'inquietante futuro dell'AI?Da tempo penso che l'ascesa della tecnologia digitale sia la storia più importante del nostro tempo. Mentre i politici, i regimi e persino i paesi possono andare e venire, la trasformazione dell'umanità da parte della tecnologia è irreversibile. Quando Trump è diventato per la prima volta presidente degli Stati Uniti nel 2016, ho esposto questa teoria in un articolo intitolato L'iPhone è più grande di Donald Trump. Dopo la sua rielezione nel 2024 ho scritto un seguito, sostenendo che l'intelligenza artificiale fosse un agente del caos più grande del presidente. Nel lungo periodo, era la mia tesi, la scienza vince persino su Trump.Ora quella teoria sembra vacillare un po' di più. Il futuro potrebbe dipendere da chi è al comando dell'AI e da come decide di plasmarla e sfruttarla. Mentre si ammantano di patriottismo e cercano accordi con il Pentagono, i signori dell'intelligenza artificiale stanno anche consegnando una tecnologia spaventosamente potente e imprevedibile a un governo e a un ministero che rifiuta ogni idea di supervisione. Cosa ne penserebbe Asimov?Questo articolo è apparso originariamente su Wired US.