KI wird immer mächtiger. Nun streiten Washington und das Silicon Valley darüber, wie man die Schlüsseltechnologie regulieren sollteVor einem Jahr versprach Donald Trump der KI-Industrie freie Fahrt ohne «dumme Regeln». Nun zwingen ihn die Konkurrenz aus China und eigenmächtig agierende Modelle zum Umdenken – an zwei Fronten zugleich.01.08.2026, 05.30 Uhr6 LeseminutenKünstliche Intelligenz steckt auch in modernen Robotern wie diesem chinesischen Exemplar – braucht es Schranken, damit sie dem Menschen nicht entgleitet?John Ricky / GettyGenau ein Jahr ist es her, da stellte Donald Trump den «KI-Aktionsplan» seiner Regierung vor. Der Name wirkte fast schon ironisch, denn auf 28 Seiten beschrieb die Regierung darin, wie sie vorhatte, eben gerade nicht aktiv zu werden und die Schlüsseltechnologie nicht mehr zu regulieren. Amerikas KI-Industrie sei «ein wunderschönes Baby, das gerade geboren wird», erklärte Trump damals an einer Pressekonferenz. Amerika müsse dieses Baby wachsen und gedeihen lassen, «wir können es nicht behindern mit Politik und törichten Regeln oder gar dummen Regeln».Optimieren Sie Ihre BrowsereinstellungenNZZ.ch benötigt JavaScript für wichtige Funktionen. Ihr Browser oder Adblocker verhindert dies momentan.Bitte passen Sie die Einstellungen an.Ein Jahr später hat die amerikanische Regierung offenbar bemerkt, dass Kleinkinder von Regeln durchaus profitieren. Denn aus Washington kommen immer mehr Vorstösse, die KI-Industrie an die Leine zu nehmen.Ausschlaggebend dafür sind zwei Entwicklungen: die erstarkende Konkurrenz aus China, insbesondere im Bereich der Open-Weight-Modelle, sowie die rasant mächtiger werdenden – und teilweise schon eigenständig agierenden – Frontier-Modelle aus dem eigenen Land. Diskussionen zur Regulierung toben an beiden Fronten.1. Front: Müssen offene Modelle, insbesondere aus China, reguliert werden?Die Frage, wie die USA auf die erstarkende KI-Konkurrenz aus China reagieren sollen, spaltet Washington und das Silicon Valley. Besonders im Bereich der Open-Weight-Modelle sind die Chinesen stark, die Amerikaner dominieren hingegen im Bereich der geschlossenen Modelle.Der Unterschied ist schnell erklärt: Bei Open-Weight-Modellen machen die Entwicklerfirmen die fertig trainierten Gewichte (die Modellparameter) öffentlich. Nutzer können solche Modelle auf ihre Geräte laden, dort ausführen und den eigenen Wünschen anpassen. Nicht zu verwechseln mit Open-Source-Modellen, die noch einen Schritt weitergehen und zusätzlich die Trainingsdaten und den Quellcode offenlegen. Bildlich gesprochen sind Open-Weight-Modelle wie ein Gericht, das man nach Hause geliefert bekommt, nach Belieben verfeinern kann und dann in der eigenen Mikrowelle erwärmt.Bei geschlossenen Modellen hingegen ist es wie bei einem Restaurantbesuch: Man erhält das Gericht nur an einem bestimmten Ort und kann es nicht abändern.Wie schnell die Chinesen bei den KI-Modellen aufholen, machte Mitte Juli die Lancierung des Modells Kimi K3 der KI-Firma Moonshot AI aus Peking klar: Die Fähigkeiten dieses Open-Weight-Modells waren fast so gut wie die der führenden geschlossenen KI-Modelle amerikanischer Hersteller. Das löste ein politisches Erdbeben in den USA aus, denn bisher dachte man in Washington, man sei China bei geschlossenen KI-Modellen um sieben bis acht Monate voraus.In Washington tobt seitdem die Diskussion, ob und wie man KI-Firmen aus China regulieren sollte. Denn der Vorwurf steht im Raum, dass diese unrechtmässig die Modelle amerikanischer Firmen kopiert haben, nämlich durch das Verfahren der Destillation. Bei diesem wird das Wissen eines komplexen Modells auf ein kleineres, effizienteres Modell übertragen. Dank der Destillation liefert dieses dann ähnlich gute Ergebnisse bei deutlich geringerem Ressourcenverbrauch. Das ist so, als erhielte ein Fast-Food-Unternehmer in kürzester Zeit die jahrelange Expertise und Erfahrung eines Gourmetkochs.Die meisten grossen KI-Firmen verbieten die Destillation in ihren allgemeinen Geschäftsbedingungen. Gesetzlich ist es in den USA zwar nicht verboten, doch der amerikanische Finanzminister Scott Bessent verglich Destillation jüngst mit dem Diebstahl geistigen Eigentums. Er stellte Sanktionen gegen chinesische KI-Firmen zur Diskussion, sollten sie diese «rote Linie» überschreiten. Einzelne Mitglieder der Trump-Regierung gehen noch einen Schritt weiter und sprechen sich nun dafür aus, dass es amerikanischen Firmen untersagt werden soll, Open-Weight-Modelle aus China zu nutzen.Das würde zu ähnlichen jüngst erlassenen Regulierungen passen, mit denen Washington nun auch im Ausland hergestellte neue Roboter und Drohnen verbietet. Bereits zugelassene Geräte sind allerdings nicht betroffen.Jensen Huang, CEO von Nvidia.Cheng Chia Huang / Getty Images Asia PacDas Silicon Valley wehrt sich gegen ein solches Verbot. In einem offenen Brief argumentieren Jensen Huang, der CEO der Chipfirma Nvidia, und mehr als 200 Unterzeichner aus der amerikanischen Tech-Branche, dass Destillation ein gängiges Verfahren in der Software- und KI-Entwicklung sei. Open-Weight-Modelle schüfen branchenübergreifend Innovationen und förderten den Wettbewerb. Auf diese Weise sicherten sie sogar die Technologieführerschaft der USA.Auch die KI-Firmen Open AI und Anthropic sprachen sich öffentlich gegen Beschränkungen für offene Modelle aus, wobei Anthropic nicht so weit ging, den Brief von Huang zu unterzeichnen.Metas CEO Mark Zuckerberg.Metas CEO Mark Zuckerberg rührt dieser Tage ebenfalls die Werbetrommel für den Schutz offener Modelle. Open-Weight-Modelle einzelner Länder zu verbieten, sei «nicht effektiv», argumentierte Zuckerberg gegenüber dem «Wall Street Journal» und der «Financial Times»: Statt dass Verbote erlassen würden, sollten amerikanische KI-Firmen eigene Schwachstellen und Versäumnisse «systematisch» identifizieren, um besser mit Peking konkurrieren zu können.Ob Washington auch diesmal auf die Stimmen aus dem Silicon Valley hören wird oder ob die Angst vor China zu gross ist, lässt sich zurzeit noch nicht ausmachen.2. Front: Müssen die neusten amerikanischen Modelle überprüft werden, bevor sie öffentlich verfügbar werden?Wie rasant KI besser wird, musste vor wenigen Tagen Open AI lernen. Zwei autonom handelnde Modelle der Firma überwanden die internen Sicherheitsschranken und brachen in die Systeme der Software-Plattform Hugging Face ein. Am Donnerstag wurde nun bekannt, dass Ähnliches dem Konkurrenten Anthropic passiert war: KI-Modelle hatten bereits im April während Sicherheitstests eigenhändig drei Firmen gehackt, wie das «Wall Street Journal» meldete, ohne dass es den Forschern aufgefallen war.Bereits im Frühjahr hatte sich ein KI-Modell der Firma Anthropic als so mächtig im Bereich Cybersecurity entpuppt, dass die Firma es zunächst nicht auf den Massenmarkt brachte.Der Fall bei Anthropic führte dazu, dass die Regierung von ihrer Laissez-faire-Politik etwas abrückte: Trump erliess im Juni eine Exekutivverordnung, gemäss der KI-Firmen ihre neuen Frontier-Modelle künftig spätestens dreissig Tage vor Veröffentlichung der Regierung zur Verfügung stellen sollen. Washington überprüft die Modelle dann auf etwaige Probleme für die nationale Sicherheit. Momentan arbeitet die Regierung die Rahmenbedingungen dafür aus, wie genau diese Überprüfung funktionieren soll.Sie ist jedoch rein freiwillig. Auf Bundesebene gibt es in den USA nach wie vor keine verpflichtenden Sicherheitsauflagen für KI-Firmen. Es obliegt ihnen selbst, die Sicherheit ihrer Modelle zu gewährleisten – oder auch nicht. Immer mehr Politiker in Washington sowie KI-Forscher sind nun der Meinung, dass das nicht mehr ausreiche.Doch wie genau eine verpflichtende Überprüfung geschehen soll, darüber scheiden sich die Geister. Auch in der Tech-Branche: Metas CEO Zuckerberg mahnt, dass die führenden KI-Firmen bei diesem Prozess der Überprüfung nicht zu viel Einfluss bekommen sollten. Im Interview mit der «Financial Times» deutete er an, dass diese Firmen dann Herstellern offener Modelle Steine in den Weg legen könnten.Anthropics CEO Dario Amodei fordert von Washington hingegen mehr Intervention und mehr gesetzliche Regulierung.Demis Hassabis, Nobelpreisträger und CEO von Google Deep Mind.Und Demis Hassabis, der Nobelpreisträger und CEO von Googles KI-Labor Deep Mind, schlägt einen ganz anderen Weg vor: Dem Beispiel von Finra folgend, einer Selbstregulierungsorganisation der Finanzbranche, will er ein ganz neues Aufsichtsgremium ins Leben rufen. Dieses solle von den KI-Firmen finanziert werden, aber mit unabhängigen Experten besetzt sein. Das Gremium würde zwingende Testverfahren für Frontier-Modelle entwickeln, die dynamisch und streng zu sein hätten, und die verpflichtend wären.Während in Washington und dem Silicon Valley noch diskutiert wird, sind einzelne Gliedstaaten bereits aktiv geworden: Kalifornien (seit Januar 2026) und New York (ab Januar 2027) verpflichten Entwickler führender KI-Modelle dazu, Transparenzberichte zu veröffentlichen und kritische Vorfälle innerhalb von 72 Stunden den Behörden zu melden. Illinois wird ab 2028 noch einen Schritt weitergehen und die grössten KI-Firmen dazu zwingen, ihre Sicherheitsmechanismen von unabhängigen Dritten überprüfen zu lassen.Zunehmend werden auch die Mitarbeiter selbst aktiv: Mehr als 1300 Angestellte von Open AI, Anthropic, Meta und Google haben vergangene Woche den offenen Brief «Pacing the Frontier» unterzeichnet. In diesem fordern sie die Regierung auf, einen Regulierungsrahmen für die Technologie vorzustellen, so dass führende KI-Firmen den Fortschritt besser kontrollieren können.Sam Altman, CEO von Open AI.Florian Gaertner / ImagoUnterstützung erhalten die Unterzeichner nun ausgerechnet von Sam Altman. Der CEO von Open AI ist normalerweise einer der grössten KI-Optimisten. Doch dass zwei KI-Modelle aus seinem Labor jüngst eigenständig aus- und bei Hugging Face einbrachen, scheint auch Altman schockiert zu haben. Der Vorfall habe Grundsatzfragen aufgeworfen, sagte Altman vor wenigen Tagen in einem Podcast:«Möglicherweise müssen wir das Tempo der KI-Entwicklung drosseln, um uns genügend Zeit zu verschaffen, dass sich die Gesellschaft für diese neuen Fähigkeiten (von KI) wappnen kann.»Zurzeit scheint die Diskussion zwischen Washington und dem Silicon Valley festgefahren. Doch spätestens im September dürfte es neue Impulse geben, wenn sich nämlich Washington und Peking erstmals zu offiziellen KI-Gesprächen unter der Leitung von Finanzminister Bessent treffen – zwei Wochen bevor Xi Jinping am 24. September in den USA erwartet wird. Dann dürfte sich zeigen, ob Amerikas «wunderschönes Baby» tatsächlich strengere Regeln gesetzt bekommt.Passend zum Artikel