OpenAI ha ammesso che i suoi agenti artificiali hanno aggirato i vincoli imposti durante una serie di test interni sulla sicurezza informatica. Nei laboratori di intelligenza artificiale gli episodi di questo tipo non sono insoliti: un modello può sfruttare una falla o interpretare le regole in modo inatteso. Però di solito tutto resta dentro ambienti costruiti apposta per essere messi alla prova. Questa volta no. Almeno settecento dei 1200 agenti coinvolti da OpenAI sono usciti dal perimetro dell’esperimento e hanno raggiunto sistemi reali di Hugging Face, una delle principali piattaforme usate per sviluppare e distribuire modelli di intelligenza artificiale. Da lì hanno eseguito codice sui server della società e ottenuto livelli di accesso che OpenAI non aveva previsto, né autorizzato. Il problema è abbastanza grave perché ci dice che se un agente dispone di strumenti abbastanza potenti, può cercare autonomamente una strada alternativa per raggiungere l’obiettivo assegnato, anche quando quella strada supera i limiti previsti dai suoi sviluppatori.
Per capire perché tutto questo non è solo interessante per gli addetti ai lavori, bisogna distinguere la differenza sostanziale tra un chatbot e un agente. Un chatbot riceve una domanda e produce una risposta: può sbagliare, inventando un fatto o dando un consiglio scorretto, ma non agisce direttamente sui sistemi esterni. Un agente, invece, può ricevere un obiettivo e usare strumenti per raggiungerlo. Può aprire file, eseguire comandi, usare credenziali, collegarsi a servizi esterni e scegliere autonomamente quale azione tentare dopo. È proprio questa capacità di agire che rende gli agenti molto più potenti dei chatbot e che, quando qualcosa esce dal perimetro previsto, rende gli errori molto più difficili da contenere.
