Das wirkt auf den ersten Blick wie die kritische Reflexion des eigenen unternehmerischen Handelns. Doch hinter dem Aufruf von Anthropic-Chef Amodei und der öffentlichen Zustimmung von OpenAI-Chef Altman steckt mehr.Niemand hindert die Konzernchefs daran, ihren Unternehmen weniger Tempo und mehr Umsicht zu verordnen, wenn sie das für nötig halten. Dass ein KI-Modell von OpenAI unlängst aus seiner Testumgebung ausgebrochen ist und Schaden angerichtet hat, wirft ein Schlaglicht auf die Risiken einer Technik, die sich gegen den Menschen wenden kann.Der Systemkonflikt setzt sich bei KI fortSchon bei sozialen Netzwerken waren westliche Gesellschaften viel zu naiv; man wollte zu Beginn nur ihren Nutzen sehen und vergaß darüber, auf die Gefahren zu schauen. Welchen Schaden die vermeintlich sozialen Netzwerke an der psychischen Gesundheit von Kindern und Jugendlichen anrichten können, ist inzwischen erschreckend gut dokumentiert.Mit Blick auf die KI lässt die Mahnung Amodeis aufhorchen, dass auch autokratisch regierte Länder wie China eingebunden werden müssen. Seine Warnung vor zu viel Naivität im Umgang mit Peking ist richtig: Selbst wenn sich die demokratisch verfassten Regierungen des Westens zusammentun könnten, um ein verbindliches Regelwerk für KI umzusetzen, würden andere dabei gewiss nicht ohne Weiteres mitmachen. Der bestehende Systemkonflikt setzt sich auf dem Schlachtfeld der KI fort.