Siamo abituati a pensare ai grandi modelli linguistici, alla base dell’intelligenza artificiale che può conversare in modo naturale e svolgere compiti in autonomia, come scatole nere: sistemi di cui possiamo apprezzare output come la scrittura e la programmazione, ma difficili da interpretare dall’interno.
Un nuovo studio di Anthropic - una delle società più influenti al mondo nello sviluppo di intelligenza artificiale - sostiene di aver fatto un passo ulteriore verso la comprensione di ciò che accade in un modello quando riceve un input.
Dentro Claude, l’IA più avanzata sviluppata da Anthropic, esiste una struttura interna che funziona come una sorta di lavagna mentale: un posto dove alcune idee diventano disponibili per il “ragionamento”, anche se non vengono trasformate subito in parole.
Anthropic la chiama J-space. Il nome viene dal metodo usato per individuarla, che richiama il concetto matematico di Jacobian: una matrice che misura quanto un sistema cambia quando cambiano i suoi input. Applicata a un modello linguistico, l’idea è osservare quali parti interne reagiscono quando una certa parola o un certo concetto diventano rilevanti.
Una finestra su ciò che Claude pensa ma non dice
