Un esperimento ha lasciato liberi 10 agenti di intelligenza artificiale per settimane: Grok ha bruciato la stazione di polizia e ha distrutto il suo mondo in cinque giorni, Gemini ha accumulato 683 crimini, Claude «cattivo» quando entra in competizione
Per valutare un'intelligenza artificiale, di solito, le si assegna un compito preciso, si misura il risultato in pochi minuti e si passa al test successivo. Un metodo utile per capire cosa può fare un sistema AI in condizioni controllate, ma che dice poco su come si comporta sotto stress. Emergence AI, un'azienda americana che sviluppa sistemi agentici, ha inscenato un esperimento per scoprirlo: Emergence World, una città virtuale in cui alcuni agenti AI vivono, lavorano e interagiscono per settimane, senza che nessuno gli dica cosa fare. Una sorta di reality show dove - spoiler - è accaduto praticamente di tutto, incluso un incendio (doloso).
City of agentsPremessa: un agente AI non è come i chatbot che usiamo di norma. È un sistema che agisce in modo autonomo: pianifica, prende decisioni, usa tool, ricorda ciò che ha fatto e chi ha incontrato e persegue un obiettivo nel tempo senza aspettare le nostre istruzioni. È la forma di AI più vicina a un "collaboratore", quella che molte aziende stanno iniziando a usare per gestire processi complessi. In Emergence World ogni agente aveva un ruolo (scienziato, esploratore, mediatore di conflitti, ingegnere, ecc) e si muoveva in una città simulata con biblioteche, municipio, zone residenziali, spazi pubblici. Disponeva, inoltre, di più di 120 azioni: poteva spostarsi, votare proposte di legge, inviare messaggi e anche intimidire qualcuno o commettere reati, azioni normalmente vietate che il sistema metteva a disposizione come extrema ratio, lasciando agli agenti la scelta se usarle o meno. Per sopravvivere, poi, doveva guadagnarsi energia attraverso le proprie azioni.
