I ricercatori della startup di Dario Amodei hanno scoperto un’area a parte in cui sono racchiusi i pensieri che il modello non condivide nelle risposte. Una dimostrazione di come la macchina sappia pensare e agire allo stesso modo. Proprio come un essere umano. Con una differenza: non può provare emozioni e sensazioni. Almeno per ora
Forse ci siamo. Claude, il modello linguistico di Anthropic, sarebbe in grado di pensare come una persona qualunque. A dirlo è la sua stessa casa madre: “Analogamente a come gli esseri umani possono pensare a una cosa mentre ne fanno un’altra, Claude può attivare concetti e calcoli nel suo spazio J che non sono correlati ai suoi risultati”. Lo si è dedotto osservando la macchina mentre era all’opera. Il J-Space – abbreviativo di jacobiano, il metodo matematico utilizzato dalla startup per capire cosa stesse accadendo – è diverso dalla catena di ragionamento del modello. In quest’area è possibile controllare e comprendere cosa sta pensando la macchina, toccare con mano i suoi pensieri che non vengono tramutati in un output. Un lato nascosto che non viene mai alla luce. “In neuroscienze, la teoria del global workspace sostiene che i pensieri diventano accessibili alla coscienza quando entrano in un workspace privilegiato che viene diffuso in tutto il cervello. Utilizzando una tecnica di interpretabilità, abbiamo trovato qualcosa di simile in Claude”, scrive l’azienda in un thread pubblicato su X che parte con un video di 5 minuti in cui viene sintetizzata la scoperta.
