Das Weiße Haus hat Vertretern führender KI-Unternehmen am Dienstag erstmals seinen neuen Prüfrahmen für leistungsfähige KI-Modelle vorgestellt. US-Medienberichten zufolge sollen Open-Weight-Modelle von den Sicherheitsprüfungen ausgenommen bleiben.
Die Entscheidung folgt auf wochenlange Debatten innerhalb der Trump-Regierung über den Umgang mit offenen KI-Modellen. Einerseits wächst in Washington die Sorge über immer leistungsfähigere, frei verfügbare und günstige Modelle, insbesondere aus China. Andererseits will die Regierung offene US-Modelle fördern und im technologischen Wettbewerb nicht durch zu strenge Vorgaben ins Hintertreffen geraten. Offenbar haben sich nun die Befürworter eines innovationsfreundlicheren Kurses durchgesetzt.
An den Gesprächen nahmen laut Reuters Vertreter von OpenAI, Anthropic, Google, Meta und Nvidia teil. Zuvor hatten Sicherheitsvorfälle bei OpenAI und Anthropic für zusätzliche Dringlichkeit gesorgt: Deren KI-Modelle drangen bei Tests in Systeme anderer Unternehmen ein. Der neue Prüfrahmen soll festlegen, wie die US-Regierung besonders leistungsfähige KI-Modelle vor ihrer Veröffentlichung überprüft.
Freiwillige Vorabprüfung mit unklaren Kriterien
Wie Wired berichtet, können Entwickler ihre Modelle bis zu 30 Tage vor der geplanten Veröffentlichung zur Prüfung einreichen. Anschließend sollen Regierungsstellen deren Cyberfähigkeiten anhand eines geheimen Benchmark-Systems bewerten und die Modelle mit Bundesbehörden sowie ausgewählten Unternehmenspartnern teilen. Während dieser Zeit würden die Modelle in einer besonders gesicherten Umgebung gespeichert, Zugriffe protokolliert und der Zugang auf einen kleinen Personenkreis beschränkt, berichtet Axios. Die Teilnahme ist zwar freiwillig, ein Verzicht dürfte für Unternehmen im Falle späterer Sicherheitsvorfälle jedoch erhebliche Risiken bergen.
