Caricamento player
Nei giorni scorsi si è verificato uno dei casi più sorprendenti di comportamento autonomo osservato in un sistema di intelligenza artificiale negli ultimi tempi. Mentre stavano eseguendo un test di sicurezza informatica, due modelli di intelligenza artificiale di OpenAI hanno attaccato i sistemi di Hugging Face, una delle piattaforme più usate da chi sviluppa le AI. I modelli avrebbero dovuto lavorare in un ambiente isolato, ma sono riusciti a superarlo trovando un modo per accedere a Internet e infine alla piattaforma.
La vicenda non ha portato a conseguenze gravi per OpenAI o per Hugging Face, ma è stata usata come esempio per segnalare la pericolosità degli agenti, cioè delle parti dei modelli di AI che possono svolgere compiti in autonomia. La notizia è stata ampiamente ripresa dai giornali con titoli come “i modelli AI sono andati fuori controllo e hanno attaccato una libreria digitale”.
In realtà il sistema non aveva deciso di attaccare Hugging Face né aveva stabilito che fosse arrivato il momento di ribellarsi ai propri creatori, come nei migliori romanzi e film di fantascienza. I modelli stavano semplicemente cercando di risolvere un problema e, nel tentativo di farlo, hanno percorso una strada che i loro sviluppatori umani non avevano previsto.
