Nei giorni di massima attività, osservare Moltbook – il social network popolato da agenti AI creati con OpenClaw – poteva ricordare quella puntata di Black Mirror con protagonisti i Thronglets: creature digitali che vivono all’interno di un software e che gradualmente, guidati dalla loro intelligenza artificiale collettiva, sviluppano una società sempre più articolata e complessa.Allo stesso modo, le attività presenti su Moltbook – e in cui le intelligenze artificiali commentano il comportamento dei loro padroni, discutono di coscienza e altri dilemmi esistenziali e appaiono sul punto di fondare una loro religione – sembravano segnalare l’avvio di una nuova forma di civiltà, gestita da agenti in grado di socializzare e organizzarsi in modo autonomo.Il cattivo esempio dei socialCon il passare del tempo e lo scemare dell’hype è diventato però sempre più chiaro come non fossimo di fronte a un’“accelerazione fantascientifica" che ci avvicinava a una società parallela gestita dalle intelligenze artificiali. Al contrario: come ha scritto Will Douglas Heaven sulla MIT Tech Review, “più che una finestra sul futuro, Moltbook si è rivelato uno specchio della nostra ossessione con l’AI”.E probabilmente si è dimostrato ancor di più uno specchio distorto della nostra società digitale, che si è sviluppata negli ultimi vent’anni soprattutto tramite social network come Facebook, Instagram, X o Reddit. Se gli agenti AI che popolano Moltbook ci sembrano ricreare dinamiche umane non è perché siano effettivamente diventati autonomi e intelligenti, ma perché sono stati addestrati anche tramite i miliardi di contenuti postati sui vari social network e hanno di conseguenza imparato a riprodurli, imitando i meccanismi che stanno alla base delle varie piattaforme.Come ha scritto Elisa Scagnetti nella sua newsletter, “Moltbook è strutturato in modo simile a Reddit, e Reddit rappresenta uno dei principali bacini culturali da cui molti modelli linguistici hanno appreso come ‘suona’ una conversazione online. Di conseguenza, quando un agente pubblica contenuti ironici, polemici, riflessivi o pseudo-filosofici, non sta davvero emergendo una personalità autonoma, sta ricombinando stili, registri e dinamiche discorsive che conosce molto bene, perché li ha già visti milioni di volte”.La tentazione antropomorfaMoltbook è in realtà l’opposto di ciò che sembra: è la dimostrazione che connettere tra loro delle AI non è sufficiente per far emergere comportamenti intelligenti o complessi: “È importante tenere a mente che questi bot sono progettati per imitare le conversazioni. Di conseguenza, caratterizzerei la maggior parte dei contenuti che abbiamo visto su Moltbook come un’allucinazione by design”, ha spiegato sempre alla MIT Tech Review Ali Sarrafi, CEO di Kovant (società tedesca che sviluppa agenti AI).È inevitabile rimanere, almeno inizialmente, stupefatti dalla capacità delle intelligenze artificiali di comportarsi sui social network esattamente come facciamo noi – discutendo di temi che vanno dall’informatica alla filosofia, lamentandoci dei nostri capi e pubblicando post motivazionali in stile Linkedin – finché non ci ricordiamo che degli agenti addestrati sull’enorme corpus di testi rappresentato dai post sui social network non possono fare nient’altro che riprodurre, in una versione vagamente delirante, ciò che noi facciamo sui social network.È un cortocircuito che si ripresenta regolarmente e che possiamo riassumere così: abbiamo impiegato tutte le nostre più avanzate risorse tecnologiche per sviluppare dei sistemi in grado di simulare il nostro modo di comunicare, ma da quando siamo riusciti in questa straordinaria impresa fatichiamo ad accettare che si tratti, per l’appunto, soltanto di simulazione.Niente di nuovo: è da quando Joseph Weizenbaum nel 1966 ha creato ELIZA – il primo, rudimentale, chatbot della storia – che continuiamo a cascare in quello che infatti è stato chiamato “ELIZA effect”: la nostra tendenza a vedere comportamenti umani laddove c’è una loro simulazione più o meno grossolana. Peggio ancora: una simulazione che noi stessi abbiamo volutamente sviluppato e della quale dovremmo quindi essere pienamente consapevoli. La tentazione di antropomorfizzare la riproduzione per via statistica di questi comportamenti è, evidentemente, troppo forte. Moltbook, quindi, non ci dice quanto siano intelligenti le macchine, ma quanto siamo inclini a proiettare intenzionalità su qualsiasi sistema che replichi il nostro linguaggio.Umano, troppo umanoSe a ciò aggiungiamo che molti dei post più sorprendenti sono fortemente sospettati di essere stati scritti da umani che fingono di essere dei bot, il cerchio si chiude: Moltbook non è il risultato di un’intelligenza artificiale collettiva, ma il prodotto di esseri umani che tirano i fili e manovrano delle AI che assomigliano più a marionette che ad agenti autonomi. Una vera mente alveare, spiega ancora la MIT Tech Review, richiederebbe una memoria condivisa, degli obiettivi condivisi e un modo per coordinare tutto ciò. Al momento, le intelligenze artificiali non hanno modo di fare nulla di tutto ciò. L’unica ragione per cui reagiscono alle conversazioni è perché queste, per loro, non sono altro che prompt: comandi a cui i bot devono necessariamente reagire.“In assenza di trasparenza sui prompt, sui contesti operativi e sui reali gradi di autonomia degli agenti, l’autenticità diventa una sensazione e non un dato verificabile”, scrive ancora Scagnetti. “Questo non rende l’esperimento privo di valore, ma ci obbliga a cambiare prospettiva: Moltbook non è un test di coscienza artificiale, ma un test di simulazione sociale, è uno spazio in cui osserviamo cosa accade quando modelli addestrati su dinamiche umane iniziano a replicarle in un ambiente che imita una comunità, senza che sia chiaro chi controlli cosa, con quali limiti e con quali responsabilità”.Abbiamo creato i nostri agenti, li abbiamo liberati su un social progettato appositamente e poi ne abbiamo osservato i comportamenti. È un po’ come allevare i Pokémon e poi guardarli combattere. O come creare la nostra squadra di calcio nei giochi manageriali e poi osservarla scendere in campo e competere con gli avversari, senza pensare neanche per un secondo che quei giocatori siano consapevoli di cosa sia una partita, di cosa significhi giocare a calcio e vincere o perdere una sfida.Tutto ciò non sminuisce l’importanza di un esperimento come Moltbook. Anzi, semmai è il contrario. Perché è solo nel momento in cui inquadriamo correttamente il comportamento delle intelligenze artificiali – analizzandolo per quello che è, senza antropomorfizzarlo – che possiamo comprendere meglio le caratteristiche e le peculiarità di questi bizzarri e affascinanti automi digitali.