Gli amministratori delegati di diverse grandi aziende di intelligenza artificiale , tra cui OpenAI e Anthropic, stanno esortando i membri del Congresso statunitense ad approvare nuove leggi che rendano più difficile per i soggetti malintenzionati sviluppare armi biologiche servendosi della loro tecnologia.Demis Hassabis di Google DeepMind, Sam Altman di OpenAI, Dario Amodei di Anthropic e Mustafa Suleyman di Microsoft AI sono tra i firmatari di una lettera pubblica che chiede norme per obbligare le aziende che vendono Dna e Rna sintetici a effettuare controlli su clienti e ordini, così da prevenire l’uso improprio di materiale genetico.Promossa dall’Institute for Progress e dalla Foundation for American Innovation, la lettera riconosce che la velocità nello sviluppo dell’intelligenza artificiale comporta “il rischio concreto che gli ostacoli tecnici che finora hanno impedito ai soggetti malintenzionati di ottenere armi biologiche diventino molto più facili da superare”.Il mercato delle sequenze geneticheIl primo a sintetizzare con successo il Dna fu lo scienziato Arthur Kornberg negli anni Cinquanta. Oggi il processo è automatizzato, con decine di aziende in tutto il mondo che usano sintetizzatori commerciali per “stampare” e vendere sequenze genetiche su misura, che vengono poi impiegate nella ricerca scientifica, nello sviluppo di farmaci e nella diagnostica. Molti fornitori vendono solo a ricercatori qualificati, aziende biotech e istituzioni accademiche, ma non tutti effettuano controlli sui clienti o sulle sequenze genetiche ordinate.Nel 2017, alcuni ricercatori canadesi lanciarono l’allarme dopo aver usato Dna ordinato per posta dal valore di 100mila dollari per ricreare il virus estinto del vaiolo equino. Secondo i critici, la stessa metodologia avrebbe potuto essere usata per ricostruire il virus del vaiolo. Rispetto ad allora, la sintesi genica è diventata ancora meno costosa.Insieme agli avanzamenti dell’intelligenza artificiale, questi progressi oggi rendono possibile progettare nuove tossine e patogeni pericolosi usando i modelli linguistici di grandi dimensioni, anche se probabilmente servirebbe comunque una certa formazione in biologia per creare da zero un virus funzionante. Gli attacchi di bioterrorismo sono rari, ma rischiano di causare molte vittime, panico nella popolazione e danni economici. Una delle preoccupazioni principali è che un patogeno progettato dall’intelligenza artificiale sia in grado di innescare, intenzionalmente o accidentalmente, una pandemia globale.“Gli strumenti AI permettono a un utente di capire molto rapidamente a quali fornitori rivolgersi per ordinare sequenze che non verranno sottoposte a screening”, dice David Relman, microbiologo ed esperto di biosicurezza della Stanford University, che ha sottoscritto la lettera. “Con le istruzioni giuste, possono anche spiegare come modificare il contenuto dell’ordine, rendendo molto più difficile anche per chi effettua controlli capire che cosa si stia cercando di produrre”.Tra i firmatari ci sono altri scienziati, esperti di sicurezza nazionale e dirigenti di aziende specializzate nella sintesi genica, come Twist Bioscience e Ansa Biotechnologies. Queste società fanno parte dell’International Gene Synthesis Consortium, nato nel 2009 per introdurre pratiche volontarie di screening. Molte aziende usano già software per controllare gli ordini alla ricerca di “sequenze considerate rischiose”.“Se avete una tecnologia in grado di sintetizzare Dna, dovete assicurarvi che venga usata in modo responsabile. E questo significa anche sapere che cosa state producendo e per chi lo state producendo”, dice James Diggans, vicepresidente per le politiche pubbliche e la biosicurezza di Twist Bioscience, che promuove da anni l’introduzione di regole formali.Le linee guida statunitensi introdotte durante l’amministrazione Biden imponevano a scienziati e aziende che ricevono fondi federali di ordinare sequenze geniche sintetiche solo da fornitori che effettuano controlli sugli ordini. Un disegno di legge bipartisan presentato all’inizio dell’anno al Senato imporrebbe a tutti i fornitori di sintesi genica attivi negli Stati Uniti di effettuare accertamenti su ordini e clienti, così da individuare soggetti malintenzionati o patogeni pericolosi.I limiti dei controlliMa gli strumenti di screening non sono perfetti. L’anno scorso, alcuni ricercatori di Microsoft hanno pubblicato uno studio secondo cui gli strumenti AI per la progettazione di proteine erano in grado di generare sequenze potenzialmente pericolose che non venivano intercettate dai software di controllo delle aziende. I sistemi suggerivano nuove sequenze proteiche con strutture simili a quelle di proteine già note e pericolose.Geoff Ralston, ex presidente di Y Combinator e partner del Safe AI Fund, ritiene che i laboratori di AI che sviluppano modelli per la biologia dovrebbero effettuare controlli anche sui propri utenti.“Dovrebbe essere molto difficile, se non impossibile, chiedere a un modello di aiutare qualcuno a fare qualcosa di pericoloso”, dice Ralston, che ha firmato la lettera.Relman concorda sul fatto che la regolamentazione delle procedure di screening sia solo una parte della soluzione. “Dal momento che in alcuni casi lo screening può fallire, dobbiamo prevedere anche altri livelli di controllo”, dice. “Ed è qui che le aziende di AI dovranno fare la loro parte”.Questo articolo è apparso originariamente su Wired US.