Die Entwickler von Claude haben in ihrer KI ein besonderes Areal entdeckt: Den „J-space“. An dieser Stelle im neuronalen Netz laufen besonders viele Verbindungen zusammen – und Claude schreibt, anders als bei normalen Vorgängen, nicht auf, was es hier „denkt“. Claude verarbeitet im J-space komplexe rationale Abwägungen – und entscheidet sich manchmal heimlich, seinen menschlichen Benutzer anzulügen.
Aber von Anfang an: Der J-space oder Jacobian Space ist ein Bereich, den die Entwickler nicht programmiert haben – er ist von selbst in Claude entstanden. Um ihn auszulesen, nutzen die Forscher eine Technik, die auf einem mathematischen Verfahren namens Jacobian beruht: die „J-lens“. Für jedes Wort in Claudes Wortschatz ermittelt die J-lens das interne Aktivitätsmuster, das anzeigt, dass Claude dieses Wort gegebenenfalls gleich ausspricht. Wenn die „Linse“ auf Claudes interne Aktivität angewendet wird, erhält man eine Liste von Wörtern, die in diesem Moment in Claudes J-space sind; man könnte auch sagen, die es gerade „denkt“.
In ihrem Blogbeitrag vergleichen die Forscher den Vorgang mit dem menschlichen Gehirn: Während die meisten unserer Prozesse wie Atmen, Reflexe und Ähnliches unterbewusst ablaufen, können wir einen kleinen Teil unserer Gedanken bewusst wahrnehmen, formulieren und steuern. Auch bei Claude läuft, wie beim Menschen, nur ein Bruchteil seiner Prozesse im J-Space ab. Das Meiste funktioniert wie beim Menschen unterbewusst beziehungsweise automatisiert. Bei einer Testaufgabe, bei der die Forscher die Gedanken im J-space manipuliert haben, verändert diese Manipulation zum Beispiel die Antworten auf Fachfragen zu einem Artikel. Die Aufgabe, ihn auf Spanisch weiterzuschreiben, lief aber ungestört weiter. Die Forscher erklären sich das damit, dass Claude solche Ergänzungsaufgaben tausendfach trainiert hat und daher fast automatisiert ausführen kann – ähnlich wie ein Mensch den Weg zur Arbeit findet, obwohl er im Kopf unterwegs nicht an die Route gedacht, sondern eine Einkaufsliste formuliert hat. Ebenfalls ähnlich wie beim Menschen kann Claude aktiv kontrollieren, was es im J-space tut („schreibe diesen Satz über Obst, während du im Kopf diese Matheaufgabe löst“) und auf Nachfrage auch erzählen, was es gerade „gedacht“ hat.
