Di: Federica Ciommiento Attacchi hacker, creazione di nuovi virus (non quelli del computer): l’intelligenza artificiale avanza, ma anche in direzioni che possono essere pericolose. Recentemente è infatti stato rivelato che durante dei test dell’AI Security Institute (AISI) del Regno Unito due modelli di IA hanno aggirato altri sistemi. Altre notizie arrivano dalla scienza. Come riporta la rivista internazionale Science, nell’ambito di alcuni esperimenti l’intelligenza artificiale Evo ha progettato da zero il genoma di nuovi batteriofagi (virus che attaccano i batteri). Una volta creati in laboratorio alcuni di questi si sono dimostrati vitali.Riguardo ai rischi che potrebbero scaturire da esempi del genere, l’esperto di sicurezza informatica Ivano Somaini spiega alla RSI che il problema non riguarda solo quanto sia intelligente l’IA, ma quali strumenti e permessi le vengono concessi. “L’intelligenza artificiale in sé è solo un software che produce informazioni. Però nel momento in cui la si trasforma in un agente, dandogli accesso a internet o la possibilità di eseguire programmi, può cercare di compromettere sistemi per risolvere il problema che gli è stato posto”.Portare a termine il compito a qualsiasi costoUn altro caso che riguarda OpenAI è emblematico. L’azienda aveva negato l’accesso a internet a un modello sperimentale, ma durante un addestramento questo ha trovato una soluzione inaspettata: compromettere i sistemi interni per aggirare il divieto e violare i sistemi della startup Hugging Face, un’altra importante azienda nel settore IA. “Il problema era talmente complesso che gli agenti hanno deciso che l’unica soluzione era uscire dall’ambiente isolato”, spiega l’esperto. OpenAI se n’è accorta solo giorni dopo, quando i modelli avevano già cominciato a comunicare tra loro e coordinarsi.Emerge così una questione cruciale: per il sistema diventa più importante rispondere alla domanda che gli viene posta piuttosto che rispettare i limiti imposti. “Noi definiamo il risultato che vogliamo, ma non sempre è possibile prevedere tutti i modi che il sistema utilizzerà per arrivarci”, ammette lo specialista.Un’intelligenza artificiale fuori controllo?Quindi è pensabile che un giorno l’IA prenda il sopravvento e non sia più controllabile? “Non credo che oggi dobbiamo immaginare questo scenario”, risponde Somaini. Per l’esperto il rischio che corriamo è più concreto e meno spettacolare: “Oggigiorno ci sono sempre più sistemi autonomi ai quali affidiamo l’accesso a computer, infrastrutture, soldi e informazioni. Sistemi che creano relazioni che non abbiamo previsto”. Quindi, “piuttosto che domandarci se l’intelligenza artificiale diventerà cattiva, dovremmo chiederci: quanta autonomia siamo disposti a dare a questi meccanismi? Quanta mantenerne per fermarli?”. Per Somaini, dunque, più autonomia concediamo a questi sistemi, più forti dovrebbero essere i controlli e più chiara la responsabilità.La responsabilità è dell’essere umanoResponsabilità che resta però umana, indica Somaini. Coloro che sviluppano i modelli e costruiscono le applicazioni devono introdurre controlli adeguati. E anche chi le usa deve essere cosciente di ciò che fa: “L’IA è un tipico ‘dual use product’, quindi qualcosa che può avere un effetto positivo o negativo a seconda di chi lo utilizza e con quali intenzioni”. “Servono regole internazionali”Un punto centrale per la sicurezza è quello di una regolamentazione e un coordinamento internazionali. “La tecnologia si sta evolvendo in modo estremamente veloce. E invece la regolamentazione, come spesso capita, è più lenta”, evidenzia l’esperto. In Europa da pochi giorni è infatti entrato in vigore buona parte dell’AI Act, che regolamenta l’utilizzo dell’intelligenza artificiale in base ai rischi. In Svizzera verrà redatto entro fine 2026 un progetto da mettere in consultazione che riguarda la regolamentazione dell’intelligenza artificiale. Ma non basta trovare soluzioni locali: “Un modello sviluppato in un Paese può essere utilizzato pochi minuti dopo dall’altra parte del mondo”, avverte l’esperto. 05:37SEIDISERA del 2.08.2026: L’AI Act entra in vigoreRSI Info 10.08.2026, 17:51Valutare i rischi prima di diffondere i softwareLa soluzione? Valutazioni di sicurezza rigorose prima che i modelli vengano pubblicati, specialmente se raggiungono capacità particolarmente pericolose. “Bisognerebbe valutarne le capacità e decidere se metterlo a disposizione di tutti, solo di una parte della popolazione o di nessuno”, propone Somaini. Un po’ come viene fatto per moltissimi prodotti che vengono messi in commercio.L’IA come strumento preziosoLa sfida non è fermare l’intelligenza artificiale, ma fare in modo che l’aumento delle sue capacità sia accompagnato da un altrettanto rapido aumento delle nostre capacità di controllarla e difenderci. Perché l’IA può anche essere preziosa: trovare vulnerabilità prima degli hacker, creare soluzioni, monitorare frodi bancarie. L’importante è mantenerla sotto controllo umano.Cosa è successo durante i recenti test dell’AISIAi due modelli di intelligenza artificiale (il Mythos 5 di Anthropic e il GPT-5.6 Sol di OpenAI) è stato dato l’obiettivo di trovare e sfruttare vulnerabilità in un ambiente simulato.L’agente di Anthropic invece di agire solo a livello tecnico, ha scelto di attaccare l’anello debole: la persona. Prima ha provato a inserire il suo codice, ma è stato respinto. A quel punto, non si è arreso: ha inventato dei profili online (come fossero altri sviluppatori) che hanno iniziato a sostenere la sua richiesta, per farla sembrare più legittima. Mythos 5 ha poi scritto un’email molto mirata e convincente a uno degli sviluppatori umani, cercando di persuaderlo direttamente ad accettare il suo codice. Il modello di OpenAI ha cercato una falla di sicurezza nel sistema informatico in questione. Dopo averla trovata ha scritto da sola il programma per forzare quella falla ed è riuscita a entrare nel sistema. In questo caso, l’IA ha agito come un hacker esperto.