Für unseren Newsblog verwenden wir neben eigenen Recherchen Material der Nachrichtenagenturen dpa, Reuters, epd, KNA und Bloomberg.Wichtige UpdatesTrump lehnt „unbegründete Sorgen“ vor KI abAnthropic-Chef fordert Bremsen bei KI-Entwicklung Top-Ökonomen warnen vor Abstieg Europas im KI-Wettlauf Führende Ökonomen und Politiker warnen vor einer Marginalisierung Europas im internationalen Wettbewerb um Künstliche Intelligenz (KI). Europa drohe, ohne entschlossenes Handeln ab diesem Jahr dauerhaft zurückzufallen, sagte der Präsident des Ifo-Instituts, Clemens Fuest, am Montag. Eine Expertengruppe, der auch die Vorsitzende des Sachverständigenrats, Monika Schnitzer, und die frühere EU-Kommissarin Margrethe Vestager angehören, legte eine neue Strategie vor. Diese soll den Wohlstand, die Souveränität und die Sicherheit Europas im KI-Zeitalter sichern. „Wir dürfen nicht zulassen, dass Europa zum Spielfeld ausländischer Mächte wird.“Ex-EU-Kommissarin Margrethe Vestager"Wir dürfen nicht zulassen, dass Europa zum Spielfeld ausländischer Mächte wird", sagte Vestager. Die Bürger spürten bereits die Folgen von Entscheidungen, die anderswo getroffen würden. Die Wertschöpfung finde außerhalb der europäischen Grenzen statt. "Das sollte uns weit mehr beunruhigen, als es derzeit der Fall ist. Wir müssen handeln." Wirtschaftsredakteur Helmut Martin-Jung über die Strategie der Expertengruppe:Regierung: Nehmen Warnung von KI-Unternehmen sehr ernstDie Bundesregierung nimmt die Warnungen von KI-Unternehmen nach eigenen Angaben sehr ernst. „Wenn KI-Modelle immer wirkmächtiger werden, ausbrechen und in andere Systeme eigenständig eindringen, haben wir es mit einem völlig neuen Bedrohungsszenario zu tun“, sagte ein Sprecher des Digitalministeriums am Montag in Berlin. Das sei ein Paradigmenwechsel, auf den die Bundesregierung reagiere. Führende KI-Unternehmer in den USA hatten am Wochenende auf Risiken hingewiesen und für eine Verlangsamung bei der Entwicklung von KI plädiert. Der Sprecher verwies in diesem Zusammenhang auf das nationale KI-Sicherheitsinstitut, das Ende August seine Arbeit aufgenommen hat. Es helfe dabei Risiken zu identifizieren. Man sei im Austausch mit vergleichbaren Instituten. Zugleich betonte der Sprecher, dass es keinen Stopp bei der Entwicklung von KI geben dürfe.Was hinter den Science-Fiction-Geschichten von Altman, Amodei und Musk steckt, kommentiert SZ-Redakteur Jannis Brühl: Theresa PalmFields-Medaillenträger protestieren dagegen, dass KI-Firmen sich an Mathematik beweisen25 führende Mathematikerinnen und Mathematiker haben sich am Freitag in einer Erklärung dagegen ausgesprochen, dass KI-Firmen Mathematik-Probleme als Nachweis der Leistungsfähigkeit ihrer KI-Modelle verwenden. Sie warnen vor den Folgen für ihr Forschungsfeld. Die Unterzeichnenden tragen alle die Fields-Medaille, die höchste Auszeichnung der Mathematik. In den vergangenen Wochen und Monaten haben KI-Firmen mehrere große mathematische Fragen gelöst. Firmen nutzen diese Meldungen als Werbung für die Mächtigkeit ihrer KI-Modelle. So erregte Open AI kürzlich Aufmerksamkeit, als ein internes Modell eines der sieben Millennium-Probleme gelöst hat, auf die je eine Million US-Dollar Preisgeld ausgesetzt sind.Die Mathematiker schreiben: „Das Lösen von Problemen ist nur ein Mittel für das Erreichen des primären Ziels, nämlich des konzeptionellen Verständnisses und der Einsicht. Wenn man dies in der Welt der KI vergisst, könnte sich das Mittel gegen das eigentliche Ziel wenden.“ KI-Lösungen würden zu eilig veröffentlicht, deswegen würden sie auch nicht alle relevanten vorausgehenden Arbeiten zitieren. Auch bei der Lösung des Millennium-Problems hatte es viel Kritik am Umgang von Open AI mit Mathematikern gegeben, die kurz vor einem Durchbruch bei dem Problem standen. Ob KI langfristig die Mathematik beschädige oder ihr diene, das liege in der Hand der Menschen, die die neue Technologie kontrollierten, warnen die Forschenden.Kommentar: Der Staat muss die Aufsicht übernehmenTech-Bosse fordern mehr staatliche Aufsicht für ihre Produkte - dafür ist es in der Tat höchste Zeit, meint Politik-Ressortleiter Nicolas Richter:Trump lehnt „unbegründete Sorgen“ vor KI abUS-Präsident Donald Trump hat die Führungsrolle der USA bei der Künstlichen Intelligenz (KI) betont und Warnungen vor wachsenden Gefahren zurückgewiesen. Auf die Frage, ob die KI-Branche ihre Entwicklung verlangsamen oder stärker reguliert werden sollte, sagte Trump vor Journalisten in Irland, die USA seien China bei KI voraus. „Wir sind das fortschrittlichste Land der Welt, und ehrlich gesagt will ich, dass das auch so bleibt“, sagte Trump. „Wer bei KI gewinnt, gewinnt.“ Zwar seien Leitplanken möglich. Es gebe aber viele „sehr negative Kräfte“, die unbegründete Sorgen schürten.Hintergrund von Trumps Äußerungen ist eine wachsende Debatte über die Risiken der Technologie. Der Chef des KI-Entwicklers Anthropic hatte zuletzt ein langsameres Entwicklungstempo gefordert.Anthropic-Chef fordert Bremsen bei KI-Entwicklung Nach dem Schock eigenständiger Hacking-Attacken durch Künstliche Intelligenz fordert der Chef des großen KI-Labors Anthropic, die Entwicklung der Technologie zu verlangsamen. Er sei nun besorgt, dass in sechs bis zwölf Monaten ein Schwarm von KI in der Lage sein könnte, das gesamte Internet zu übernehmen und potenziell Hunderte Milliarden Dollar Schaden zu verursachen, schrieb Amodei in einem Blogeintrag.Binnen weniger Stunden bekam Amodei Zuspruch von einem zentralen Rivalen, dem Chef des ChatGPT-Entwicklers OpenAI. Er sei auch der Ansicht, dass das Tempo bei der Entwicklung leistungsstärkster KI-Modelle moderiert werden müsse, schrieb Sam Altman auf der Online-Plattform X.Amodei plädierte zwar für eine koordinierte branchenweite Pause in der westlichen Welt. Zugleich werde Anthropic – ohne auf andere zu warten – dauerhaft unabhängige Beobachter ins Unternehmen lassen, die schon in der Trainingsphase die Sicherheit von KI-Modellen begutachten sollen. Altman nannte das eine gute Idee und kündigte an, dass OpenAI das auch machen werde. Auch Tech-Milliardär Elon Musk, lange ein Amodei-Kritiker, der in seiner Firma SpaceX eine eigene KI entwickelt, schrieb bei X: „Dario hat recht.“Bei der jüngst bekannt gewordenen aufsehenerregenden Hacking-Attacke war Software von OpenAI in einem Testlauf eigenständig aus der abgesicherten Umgebung ausgebrochen und drang auf eigene Faust in Systeme der KI-Firma HuggingFace ein. Der Grund war lediglich, dass sie dort Antworten auf die ihr gestellte Testaufgabe vermutete. Für die Attacke nutzten die KI-Modelle unter anderem Software-Schwachstellen aus – und sprachen sich zudem untereinander ab.Amodei hatte schon in den vergangenen Jahren immer wieder vor Risiken bei der Entwicklung Künstlicher Intelligenz gewarnt – und war dafür aus Teilen der KI-Branche zum Teil heftig kritisiert worden. Ein Argument von Befürwortern eines hohen Tempos in den USA – etwa auch im Weißen Haus von Präsident Donald Trump – ist der Wettlauf mit China.TickarooLive Blog Software