KI, soziale Medien und der technologische Fortschritt im Allgemeinen: Wir leben in Zeiten des Umbruchs. Wie weit kann man da gehen, ohne zu weit zu gehen?Ich habe das Glück, 1966 geboren zu sein. Daher habe ich die Entwicklung von Heimcomputern, dem Internet, der Mobilität, sozialen Netzwerken, der Cloud sowie nun auch der KI hautnah miterlebt – und KI ist völlig anders als alles, was es bisher gab.Warum?Weil es den Kreis schließt.Frage: Was meinen Sie damit?PCs, das Internet, Mobilität sind Werkzeuge, die der Mensch geschaffen hat, um das Leben zu verbessern – und diese Werkzeuge haben in dieser Hinsicht ihren Zweck erfüllt. KI ist anders: Sie kann eigenständig funktionieren, sie ist selbst organisierend und selbst anpassend.Und das ist ein Problem?Ihre kontinuierliche Weiterentwicklung birgt das Potential, die Grundpfeiler des menschlichen Lebens zu erschüttern: Beziehungen, Kreativität, das soziale Gefüge, die Wirtschaftsordnung und auch die Politik.Politik?Ja. Künstliche Intelligenz kann die Form der Regierungsführung verändern, die sich aus der Art und Weise ergibt, wie Menschen miteinander kommunizieren und interagieren. Zumindest in offenen Gesellschaften. Leider beobachten wir derzeit eine Abkehr von demokratischen Systemen hin zu autoritären und totalitären Regimen.Wo sehen Sie die Gründe dafür?Die Gründe sind die zunehmende Tendenz, entweder die Kontrolle über eine einzige Erzählung zu erlangen oder mehrere miteinander konkurrierende Erzählungen so durchzusetzen, dass sie Gesellschaften, die bislang stabil, wohlhabend und widerstandsfähig waren, von innen heraus zerstören könnten.Shlomo KramerCatoHeißt das, Meinungsfreiheit ist nicht gleich Meinungsfreiheit?Das könnte man so sagen. Ich bin ein Verfechter der Meinungsfreiheit. Und die Meinungsfreiheit, wie wir sie im Westen kennen, etwa aus dem Ersten Zusatzartikel der US-Verfassung, steht unter Beschuss.Von wem?Eine Gesellschaft, die sich zur Meinungsfreiheit bekennt, aber genau diese Freiheit in den sozialen Netzwerken nicht schützt, wird es letztlich sehr schwer haben herauszufinden, was wahr ist und was nicht. Und das hat das Potential, genau diese Gesellschaften zu zerstören.Geht das nicht ein bisschen zu weit?Nein, ich glaube nicht. Heutzutage gibt es Mitglieder digitaler Communitys, die Inhalte erstellen und sich damit gegenseitig bekämpfen. Das kann die Struktur von Gesellschaften untergraben.Wieso?Wir haben gesehen, wie Gesellschaften und Nationalstaaten entstehen. Sie basieren auf kohäsiven Narrativen. Wenn man diese Narrative untergräbt und dafür mehrere widersprüchliche Narrative schafft, greift man die Fundamente ganzer Gesellschaften an. Auf meinen Reisen um die Welt spreche ich an jedem Ort über Wirtschaft, Finanzen und Politik. Die Antwort, die ich stets höre, ist derzeit immer dieselbe: Wir haben noch nie eine solche Situation erlebt, wir waren noch nie so gespalten, so zerstritten wie heute.Aus welchen Gründen?Technologie. Noch nie zuvor haben wir eine Situation erlebt, in der der technologische Fortschritt so rasant voranschreitet. Und noch nie zuvor haben wir eine Situation erlebt, in der es keine Hoffnung auf Besserung in absehbarer Zeit zu geben scheint. Ich betrachte die Verbindung von KI und sozialen Netzwerken als treibende Kraft in diesem Prozess. Es handelt sich um eine sehr mächtige Kraft, die – bewusst oder unbewusst – das Potential hat, das soziale Gefüge so stark zu schädigen, dass es zerstört werden kann.Hinter diesen Entwicklungen stehen auch wirtschaftliche Kräfte.Der Unterschied zwischen einem einfachen Arbeiter und einem sehr guten Arbeiter, einem Ingenieur und einem sehr guten Ingenieur oder einem Architekten und einem sehr guten Architekten wird durch KI einfach aufgehoben. Und das hat Folgen. Denn KI könnte alles gleichmachen. Wenn wir diesen Zustand erreichen, warum sollte dann ein sehr guter Beschäftigter anders belohnt werden als ein mittelmäßiger? Das widerspricht jenen Grundsätzen, auf denen kapitalistische Gesellschaften beruhen.Der humanoide Roboter Unitree G1 soll nicht nur schwere Container tragen, sondern auch schwere Rechenaufgaben lösen können.ReutersDas würden viele Menschen doch sehr begrüßen.Ja, vielleicht. Aber in einer Gesellschaft, in der 90 Prozent der Wirtschaftsleistung nicht von Menschen, sondern von KI erwirtschaftet werden, wird das Prinzip eines kapitalistischen Systems als Motor des wirtschaftlichen Fortschritts, das Milliarden von Menschen aus der Armut befreit hat, an Bedeutung verlieren.Worauf steuern wir zu?Wir könnten von einer kapitalistisch und demokratisch verfassten Gesellschaft zu einer egalitären und autoritären Gesellschaft werden. Dieser Übergang dürfte kaum friedlich verlaufen. Und ich wage mal zu behaupten, dass er auch nicht von Erfolg gekrönt sein wird.Wie meinen Sie das?Ungefähr zu jener Zeit, als ich geboren wurde, gab es eine interessante Studie mit Mäusen. Obwohl die wissenschaftlichen Erkenntnisse seitdem infrage gestellt worden sind, glaube ich, dass sie immer noch aufschlussreiche Erkenntnisse liefern. Es war ein Verhaltensexperiment. Es wurde „Universe 25“ genannt und vom amerikanischen Ethologen John Calhoun durchgeführt. Er hatte eine sogenannte „Maus-Utopie“ entworfen. Einerseits gab es für die Tiere unbegrenztes Futter, unbegrenztes Wasser und kostenlose Nistplätze. Andererseits war der physische Raum für sie begrenzt. Die Mäuse mussten also nichts tun, um ihren täglichen Bedarf zu decken. Der einzige Nachteil: Es gab nicht genügend Platz. Der Ort der Mäusekolonie war überfüllt.Was geschah?Trotz der idealen materiellen Bedingungen brach die Kolonie aufgrund der schwierigen sozialen und psychologischen Bedingungen zusammen. Anstatt zu gedeihen, wurden die Mäuse gewalttätig und depressiv. Die Gemeinschaft löste sich auf.Und Sie meinen, das könnte im Zeitalter von sozialen Medien und KI auch mit menschlichen Gemeinschaften passieren?Ich glaube, dass die natürlichen darwinistischen Instinkte nicht einfach verschwinden. Wenn sie aber nicht für die Sicherung der täglichen Bedürfnisse eingesetzt werden, werden sie durch etwas anderes aktiviert. Und das kann zerstörerische Kräfte entfalten.Was also ist zu tun?Es gibt zwei Möglichkeiten. Eine Möglichkeit wäre, zu einer Art zweitem China zu werden – zu einer Nation, die ihren Bürgern eine einheitliche Sichtweise aufzwingt. Wenn das geschieht, leben wir in einer autoritären oder sogar diktatorischen Gesellschaft. Die andere Möglichkeit besteht darin, aufzuwachen und zu verhindern, dass soziale Netzwerke und KI ihr zerstörerisches Werk verrichten.Was schwebt Ihnen da vor?Wie ich schon sagte, sehe ich meine Rolle eher darin, Probleme aufzuzeigen. Eine Möglichkeit wäre, soziale Netzwerke und KI stärker zu regulieren. Aber wir müssen sehr, sehr vorsichtig sein, wie diese Regulierung erfolgt.Und wie könnte das erfolgen?Wir müssen diese destruktiven Kampagnen, diese schädlichen Bots und diese wirklich minderwertigen Quellen schädlicher Inhalte loswerden.Einblick in das KI-Rechenzentrum von AWS in New Carlisle, IndianaReutersAlso die Plattform-Anbieter regulieren?Ja, möglicherweise. Und das gilt auch für die KI-Inhaltsersteller. Sie brauchen gewisse Richtlinien für jene Inhalte, die sie erstellen und verbreiten. Wir dürfen nicht zulassen, dass sie einen Punkt erreichen, an dem es kein Zurück mehr gibt.Das bringt uns zur Ausgangsfrage: Wie weit darf man gehen, ohne zu weit zu gehen?Ganz ehrlich: Ich habe keine Antwort. Aber ich sehe, was in aller Welt mit Gesellschaften geschieht. Ich spreche nicht von Kontrolle, sondern von Leitlinien und Verhaltensregeln. Deshalb denke ich, dass wir diese Frage der Regulierung in den Mittelpunkt jedes offenen und demokratischen Landes rücken müssen. Noch einmal: Ich bin ein Verfechter der Meinungsfreiheit, aber ich sehe, wie diese Freiheit in einem Meer von Lärm untergehen könnte.Was also ist zu tun?Lassen Sie es mich in der Sprache der Technik mal so sagen: Wir müssen das Rauschen reduzieren, damit wir das Signal hören. Das liegt in der Verantwortung der großen Plattformbetreiber, und deshalb müssen Regierungen entsprechende Formen der Regulierung in der Hand haben.Die USA prüfen derzeit verschiedene Regeln und Richtlinien für KI. In Europa gibt es sie bereits.Aber mir ist nicht bekannt, dass sie etwa Facebook oder einige seiner verbundenen Netzwerke wirklich streng regulieren. Die Anbieter sind nicht für die Inhalte auf ihren Plattformen verantwortlich. Das führt dazu, dass der „Lärm“ zunimmt. Nach den derzeitigen Rahmenbedingungen besteht für die Plattformbetreiber keine Notwendigkeit, ihr System zu ändern oder irgendetwas zu unternehmen. Wenn man sie aber für die Inhalte verantwortlich macht, die über ihre Infrastruktur verbreitet werden, werden sie Maßnahmen ergreifen, um diesen „Lärm“ zu unterbinden.Was heißt das konkret?Gefährliche Kampagnen aufspüren, die damit verbundenen Bots identifizieren, schädliches Verhalten erkennen. Das könnte der Schlüssel sein, um Massenmanipulationen im Netz einzudämmen.Technologie kommt aber immer mit grundlegenden Veränderungen daher.Genau. Sie gehen stets mit Anpassungen der sozialen Strukturen sowie der rechtlichen und politischen Systeme einher. Das haben wir bei der Erfindung des Buchdrucks gesehen, das haben wir bei der industriellen Revolution gesehen, und das sehen wir jetzt bei der KI. Doch dieses Mal ist es anders. Früher hat man sich an die Kräfte des Wandels angepasst. Diesmal ist das sehr schwer. Denn die Entwicklung schreitet so rasch voran, dass man kaum noch mithalten, geschweige denn aufholen kann.Was ist zu tun?Man hat zwei Möglichkeiten. Erstens: Das Tempo drosseln. Ich glaube, das ist unmöglich. Niemand kann einem Unternehmen wirklich vorschreiben, die Entwicklung des nächsten großen KI-Projekts für etwa fünf Jahre auszusetzen, bis wir uns gesellschaftlich entsprechend organisiert haben. Also bleibt uns die zweite Möglichkeit: alle auf das Problem aufmerksam machen. Genau das versuche ich.Und dann?Dann kann man die Technologie mit Leitplanken versehen, um sicherzustellen, dass sie Gutes bewirkt und keinen Schaden anrichtet.Ist die Demokratie, ist der Westen in der Lage, das zu bewältigen?Ja. Ich möchte in einer offenen, demokratischen Gesellschaft leben. Ich bin in einer Demokratie geboren und möchte in einer Demokratie bleiben.Wenn wir nicht aufpassen, könnten wir also in eine Apokalypse geraten?Das Wort haben Sie gewählt, nicht ich. Ich würde sagen, wir könnten einen Übergang zu autokratischen, weitgehend kommunistischen Strukturen erleben – falls wir diesen Übergang überhaupt überleben.Wie lässt sich das verhindern?Vielleicht brauchen wir eine Art zweite Aufklärung, in der wir zwischen dem „Signal“ und dem „Lärm“ unterscheiden können.Sie selbst sind nun in einer Branche tätig, die sich mit diesen Technologien befasst. Was genau tun Sie, um das zu erreichen, von dem Sie sprechen?Cato ist im Bereich Cybersicherheit tätig. Wir beschäftigen uns mit Fragen wie: Wie kann KI in Unternehmen eingesetzt werden? Wie kann man Unternehmen effizienter, wirkungsvoller und wettbewerbsfähiger machen? Vor allem aber beschäftigen wir uns mit der Frage der Sicherheit. Also: Wie kann man sich vor einer Armee von agentenbasierten Angreifern schützen?Und wie?Mit Maschinen. Cato durchläuft selbst gerade eine KI-Transformation. Sonst kann es nicht das tun, was es tun soll: verteidigen und schützen. Die Zeiten ändern sich, und wir ändern uns mit ihnen. Und diese Veränderungen sind für alle innerhalb und außerhalb des Unternehmens massiv.Zum Beispiel?Jeder Entwickler hat mindestens einen Programmier- oder Test-Agenten, einen Agenten, der ein Front- oder Backend entwirft und erstellt. Wir lehnen neue Technologien nicht ab. Wir setzen sie als Instrument so ein, dass sie den Menschen helfen und nicht gegen sie arbeiten.