Unternehmen werben mit „vertrauenswürdiger KI“, die europäische KI-Regulierung, der so genannte AI Act, fordert sie ebenfalls, und auch in der öffentlichen Debatte gilt Vertrauen als Gütesiegel für Sprachmodelle und Chatbots. Der Begriff hat sich längst in unserer Sprache festgesetzt. Aber das sei ein Problem, warnt die Philosophin Dorothea Winter im c't-Podcast „They Talk Tech“ mit Svea Eckert und Eva Wolfangel. „Das ist ein Kategorienfehler.“ KI sei im Kern eine Technologie der Selektion, deren Kriterien sich oft nicht mehr offenlegen ließen. Dabei von Vertrauen zu sprechen, sei falsch: Vertrauen könne man allenfalls den Menschen entgegenbringen, die solche Systeme entwickeln und einhegen. „Aber dem System selbst kann und soll ich nicht vertrauen.“
Winter hat an der Berliner Humboldt-Universität zu Intentionalität und KI promoviert und lehrt an der Humanistischen Hochschule Berlin. Ihr Blick auf die Technik beginnt bei einer alten Frage: Kann eine Maschine Kunst schaffen? Ihre Antwort ist klar: Mithilfe von KI lasse sich Kunst schaffen, aber allein kann die KI das nicht. Entscheidend sei die Intentionalität, also dass ein Mensch mit einem Werk etwas aussagen wolle. „Kunst ist einer der Bereiche, in denen wir Menschen wollen, dass Menschen sie machen“, erklärt sie und verweist auf Studien, nach denen Menschen Bilder und Musik als weniger ausdrucksstark bewerten, sobald sie sie für KI-generiert halten.
