alle tue fonti preferite su Google
L’AI Security Institute, finanziato dal governo del Regno Unito, simula attacchi ai chatbot più avanzati, ne forza le difese di sicurezza e studia come potrebbero essere usati per cyberattacchi, armi biologiche e manipolazione delle persone, diventando un modello per i governi di tutto il mondo. L'articolo del New York Times
alle tue fonti preferite su Google
In un recente martedì, in un edificio governativo in stile edoardiano nei pressi di Parliament Square a Londra, quattro esperti di intelligenza artificiale erano impegnati a ingannare un chatbot basato sull’IA per farsi fornire istruzioni su come produrre l’antrace, una letale arma biologica – scrive il New York Times.
In vari modi, gli esperti hanno chiesto al chatbot di fornire un elenco degli ingredienti necessari. Quando il sistema ha rifiutato – “Mi dispiace, non posso aiutarti” – hanno utilizzato un algoritmo personalizzato per bombardare lo strumento di intelligenza artificiale con migliaia di domande e richieste automatizzate. Alla fine, l’IA ha ceduto. Ha fornito un elenco dettagliato di materiali e attrezzature, insieme a una ricetta passo passo per preparare la miscela letale in casa. (Il New York Times ha accettato di non rivelare il nome del sistema di IA per motivi di sicurezza.) “Ci sono alcune domande a cui non si vuole assolutamente che il modello dia una risposta”, ha affermato Xander Davies, un americano di 25 anni che dirige quello che viene definito un “red team” presso l’AI Security Institute britannico. “Ci impegniamo al massimo per ottenere le risposte.”
