Immaginate di poter vedere cosa passa per la testa a una persona mentre parla, al di là delle parole che sceglie: i pensieri che scarta, i sospetti che tiene per sé, quello che nota e decide di non dire. Con gli esseri umani è impossibile. Con Claude, il modello di intelligenza artificiale di Anthropic, per la prima volta si comincia a poterlo fare.L’occasione arriva da uno degli esperimenti descritti nella ricerca. Claude riceve una porzione di codice con un errore che nessuno gli ha segnalato. Non lo commenta, tira dritto come se niente fosse, eppure in quel momento, da qualche parte dentro di lui, si accende un segnale preciso, la parola «error». È lì, presente, per quanto non venga mai scritta. Provate a nascondere in un documento un comando ostile che punta a dirottarlo, una prompt injection nel gergo degli addetti, e succede la stessa cosa, si accendono «injection» e «fake». Il modello se ne accorge, e non ce lo dice.Fonte: Anthropic, «A global workspace in language models»Fino a ieri quei segnali erano illeggibili. Un modello come Claude è un groviglio di miliardi di numeri che si accendono e si spengono a ogni parola, e per anni nessuno è riuscito a dire quale grumo di quei numeri corrispondesse a un’idea, tanto meno a leggerlo come si legge una frase. È un po’ come voler capire i pensieri di una persona osservando soltanto il tracciato elettrico dei suoi neuroni, senza un dizionario che colleghi quei lampi ai significati. La ricerca che Anthropic ha pubblicato il 6 luglio racconta come una tecnica nuova sia riuscita a farlo, e a dare un nome al luogo dove quei pensieri prendono forma.Lo chiamano J-space. È un piccolo insieme di stati interni, poche decine di concetti, che pesano meno di un decimo dell’attività complessiva del modello eppure risultano collegati a tutto il resto cento volte più di un pattern qualsiasi. Anthropic lo descrive con un termine preso dalle scienze cognitive, global workspace, spazio di lavoro globale, e con un’immagine che vale la pena tenere a mente per tutta la storia, quella del teatro.Nella teoria del global workspace, formulata negli anni Ottanta dallo psicologo Bernard Baars e poi ripresa nelle neuroscienze da Stanislas Dehaene e Lionel Naccache, la mente lavora come un palcoscenico. Dietro le quinte si muovono in parallelo moltissimi processi, ognuno per conto suo, quasi tutti al buio. Solo pochi contenuti, di volta in volta, salgono sul palco illuminato, e da lì diventano visibili a tutta la platea, disponibili a chiunque ne abbia bisogno. Quella teoria prova a spiegare cosa distingua, nel cervello, il pensiero cosciente da quello automatico.La sorpresa della ricerca è che una struttura con lo stesso ruolo sia comparsa da sola dentro Claude, senza che nessuno l’abbia disegnata.What’s at the center of Claude’s mind?Indice degli argomenti: