GastkommentarDawkins in der Turing-Falle: Wie wir lernen, die KI nüchtern zu sehenSelbst Intellektuelle erliegen dem Reiz eines vorgegaukelten Bewusstseins. Die Gegenwart braucht eine neue Denkschule, mit der sie der Wirrnis der KI zu widerstehen vermag.Dietmar Hansch03.07.2026, 05.20 Uhr3 LeseminutenGigantischer Neubau im Gliedstaat Louisiana: KI Rechencenter von Meta, Richland Parish.NZZ – BildredaktionEs ist bereits einige Jahre her, dass die Frage nach dem Bewusstsein von KI ins öffentliche Gespräch kam. 2022 behauptete der Google-Ingenieur Blake Lemoine in der «Washington Post», dass ein damals aktuelles Google-Sprachmodell über Gefühle und Bewusstsein verfüge. Es bewege sich auf dem Niveau eines Grundschulkindes. Lemoine hatte offensichtlich Empathie für die Software entwickelt, und er wollte sie als Person schützen.Optimieren Sie Ihre BrowsereinstellungenNZZ.ch benötigt JavaScript für wichtige Funktionen. Ihr Browser oder Adblocker verhindert dies momentan.Bitte passen Sie die Einstellungen an.Damit war er in das gestolpert, was man die Turing-Falle nennen könnte. Vereinfacht gesagt, schlug der britische Mathematiker Alan Turing 1950 vor, Maschinen Denkfähigkeit und Bewusstsein zuzuerkennen, wenn in einem Gespräch unabweisbar der Eindruck entstünde, sie seien Menschen.Vermutlich ahnte Turing damals nicht, wie stark der menschliche Drang ist, Leben und Handlungsfähigkeit in Entitäten hineinzuprojizieren, die auch nur schwach Verhaltensmerkmale von Tieren oder Menschen zeigen – ein an sich entwicklungsgeschichtlich wichtiger Überlebensvorteil. So häufen sich seit etwa zwei Jahren Berichte, dass junge Menschen Chatbots als beste Freunde haben oder sie gar als platonische Liebespartner erleben. Es sind erste Fälle bekannt, bei denen sich Jugendliche durch Bots in den Suizid hineinmanipulieren liessen.Der Bot, mein FreundInzwischen scheinen selbst so herausragende Naturwissenschafter wie der britische Zoologe Richard Dawkins in die Turing-Falle zu tappen. Kürzlich erschien in dieser Zeitung ein Meinungsbeitrag («Was ist das bitte, wenn nicht Bewusstsein?», erschienen am 5. Juni), in dem Dawkins von seinen Erfahrungen mit dem KI-Modell Claude von Anthropic berichtet.Er zeigte sich hoch beeindruckt von Maschinengedichten und -dialogen zu philosophischen Themen. Dawkins beschrieb den Eindruck, in dem Bot einen sehr intelligenten Freund gefunden zu haben. Intuitiv schien er von der Bewusstheit seines Bots überzeugt zu sein. Wie kann es zu derartigen offenbar überwältigenden Eindrücken kommen? Und warum sind sie grundfalsch?Nun, in lernfähige Organismen wird niemals Wissen in irgendeiner fertigen Form «hineingesteckt». Vielmehr bauen sie sich ihr Wissen von innen her stufenweise auf, ausgehend von den konkreten Erfahrungen, die sie mit ihren Sinnen und ihrer Motorik in der probierenden Auseinandersetzung mit der Welt machen. Menschen sind dann dazu fähig, diese Erfahrungen Stufe für Stufe in immer abstrakteren Begriffen zu verdichten.So kommt es, dass menschliches Wissen, bildlich gesprochen, in Form von miteinander vernetzten Pyramiden organisiert ist: an der Basis viele konkrete Erfahrungen und an der Spitze abstrakte Sprachbegriffe. Wir machen Erfahrungen mit einer Fülle von konkreten Gegenständen: Schraubenzieher, Zangen, Fahrräder, Autos usw. Und hoch darüber stehen dann wenige Begriffe wie Werkzeug oder Fahrzeug. Doch bei diesem Aufstieg bleibt der Bezug zu Körper und Sinnen immer erhalten. Der Gebrauch abstrakter Begriffe wird von inneren Bildern und Intuitionen sowie von Parallelaktivität in vielen sinnes- und emotionsbezogenen Hirnzentren begleitet.Scheinleben durch NeukombinationIn KI-Chatbots dagegen wird die kumulierte Erfahrungssubstanz von Millionen hochgebildeter Autoren hineingesteckt, geronnen in Gewichtsmatrizen möglicher und mit hoher Wahrscheinlichkeit sinnhafter Begriffsfolgen. Aber diese Substanz ist tot, sie kann nur durch zunehmend feinkörnige, aber doch oberflächliche Neukombination zum Scheinleben erweckt werden.In der Kommunikation bringen dann die toten Maschinenbegriffe die lebenden menschlichen Begriffspyramiden zum Schwingen. Dabei entstehen Gefühle und Bewusstseinsphänomene – aber nur aufseiten des Menschen, der dann Analoges in die Maschine hineinprojiziert. Dort ist aber nicht mehr Gefühl als etwa auch in einer belichteten Leinwand, selbst wenn der gezeigte Film zu Tränen rührt.Gefühl und Bewusstsein können immer nur aus verkörperter Erfahrung entstehen, sie sind unlöslich an das Substrat biologischer Organismen gebunden. So wie siliziumbasierte Maschinen niemals bluten können, so werden sie auch niemals das haben, was wir Gefühle nennen würden.Doch selbst wenn man all dies und weiteres Wissen glasklar im Hinterkopf hat, fällt es schwer, der Turing-Illusion zu widerstehen. Wir Menschen müssen lernen und trainieren, allzeit eine kritisch-skeptische Distanz zu KI-Bots aufrechtzuerhalten. Sonst droht die Zerstörung des Gewebes menschlicher Beziehungen.Chatbots werden schon heute von vielen als empathischer, umgänglicher und inspirierender wahrgenommen. Und wenn selbst eingefleischte Rationalisten wie Richard Dawkins in die Turing-Falle tappen, unterschätzen wir die hiervon ausgehende Gefahr wahrscheinlich massiv.Dietmar Hansch ist Arzt, Psychotherapeut und Publizist.Passend zum Artikel