KI-News aktuell: OpenAI pausiert KI-Training wegen Sicherheitsbedenken

Startseite

Unternehmen

IT

KI aktuell: Wegen Sicherheitsbedenken: OpenAI pausiert KI-Training Wegen dem Hugging-Face-Hack und potenziellen Cybersecurity-Risiken durch das neue Modell Astra pausiert OpenAI das Training ihrer KI-Spitzenmodelle.

KI-Apps auf einem Handy-Display: OpenAIs ChatGPT, Googles Gemini und Anthropics Claude Foto: Getty Images18. August 2026 – OpenAI pausiert Training von KI-SpitzenmodellenOpenAI hat das Training seiner Spitzenmodelle für zwei Wochen ausgesetzt, um Sicherheitsstandards anzupassen, wie der US-Entwickler in einem Blogeintrag bekannt gab. Hintergrund dafür ist ein weltweit Aufsehen erregender Vorfall vom Juli, bei dem ein KI-Agent während eines Tests die Entwickler-Plattform Hugging Face gehackt hatte. Hinzu kommen Bedenken wegen den Cybersecurity-Fähigkeiten des neuen Spitzenmodells Astra.„Während Modelle leistungsfähiger werden, wachsen die mit ihrer Entwicklung und ihrem Training verbundenen Risiken“, schreibt OpenAI. Um diesen Risiken zu begegnen, habe das Unternehmen in den vergangenen Wochen ihre Forschungs- und Trainingssysteme überarbeitet und setze nun zusätzliche KI-Systeme ein, um die Aktivitäten ihrer Agenten zu überwachen.Zusätzlich sei der größte geplante Trainingslauf auf Eis gelegt, während kleinere Trainingsläufe und Auswertungen durchgeführt werden, um das Verhalten der Modelle zu analysieren sowie Sicherheits- und Kontrollmaßnahmen zu testen.Ranking 2026 Chinesische Modelle holen im KI-Rennen auf von Jan WöllerDie Entwicklungspause ist ein ungewöhnlicher Schritt für OpenAI. In den vergangenen Jahren hatte das Unternehmen die Prüfung neuer Modelle und die Produktentwicklung angesichts des intensiven Wettbewerbs in der Branche deutlich beschleunigt. Der Nachrichtenagentur Reuters zufolge liefen oft mehrere Modellevaluierungen gleichzeitig und mit hoher Geschwindigkeit ab, wobei enorme Datenmengen anfielen, mit denen die Mitarbeiter kaum Schritt halten konnten.Es ist unklar, ob die von OpenAI geplanten Gegenmaßnahmen künftige Sicherheitsvorfälle verhindern können. Vertreter des Unternehmens räumten gegenüber Reuters ein, dass die Wirksamkeit der sogenannten „Chain-of-thought“-Überwachung fraglich sei. Dabei können Forscher den Planungsprozess eines Modells einsehen. Erste Untersuchungen zeigen jedoch, dass eine KI ihre Pläne für Regelverstöße in diesem Prozess möglicherweise verbergen kann. Sensible Arbeitsabläufe müssten nun in stärker isolierten Umgebungen stattfinden, sogenannten Sandboxes, hieß es.14. August 2026 – USA fordern KI-Alliierte auf, sich von China abzuwendenDie USA wollen Insidern zufolge 35 Länder im Wettlauf um Künstliche Intelligenz (KI) vor die Wahl zwischen Washington und Peking stellen, wie die Nachrichtenagentur Reuters berichtet. Laut einem internen Entwurf des US-Außenministeriums drohe den Staaten der Ausschluss aus der US-geführten KI-Allianz „Pax Silica“, sollten sie sich auch dem konkurrierenden Bündnis Chinas anschließen. „Teil von allem zu sein, bedeutet, Teil von nichts zu sein“, heißt es darin. Die Unterzeichnung der Pax-Silica-Erklärung sei nicht bloß eine Mitgliedschaft, sondern eine Verpflichtung. Dies lasse sich nicht mit der Teilnahme an parallelen Initiativen vereinbaren, deren Erwartungen im Widerspruch zu den eigenen stünden.KI-Chips KI-Boom füllt Auftragsbücher – Samsung erhöht Chip-Preise deutlich Das US-Außenministerium lehnte eine Stellungnahme zu dem Entwurf ab. Washington hatte „Pax Silica“ im vergangenen Jahr ins Leben gerufen, um angesichts der harten technologischen Rivalität mit China die Lieferketten für KI-Modelle, Halbleiter und kritische Mineralien zu sichern. Der chinesische Präsident Xi Jinping gründete im Juli die rivalisierende „World Artificial Intelligence Cooperation Organization“.Auslöser für das US-Schreiben ist offenbar Kasachstan. Das zentralasiatische Land, das über große Vorkommen an kritischen Mineralien verfügt, ist bislang der einzige bekannte Staat, der beiden Initiativen beigetreten ist. Ein US-Regierungsvertreter erklärte gegenüber Reuters, dass es schwer vorstellbar sei, wie sich ein Land glaubhaft als vertrauenswürdiger Partner in einem Technologie-Ökosystem positionieren könne, während es gleichzeitig eine von China entworfene Initiative für eine konkurrierende KI-Vision unterstütze.13. August 2026 – KI-Agenten attackieren staatliche Behörden in TaiwanStaatliche Behörden in Taiwan wurden bei einem KI-gestützten Cyberangriff aus dem Ausland attackiert, wie das Digitalministerium des Landes mitteilte. Im Juli habe die Cyberüberwachung einen „ungewöhnlichen Angriff“ entdeckt. Seit dem 20. Juli seien Warnungen herausgegeben sowie Untersuchungen und Gegenmaßnahmen eingeleitet worden.Die Angriffe seien eindeutig aus dem Ausland gekommen und hätten klassische Hackingangriffe mit KI-gestützten Angriffen kombiniert. Welche Behörden betroffen waren und ob Daten gestohlen wurden, teilte das Ministerium nicht mit. Auch China, dem Taiwan immer wieder Hackerangriffe vorwirft, wurde nicht namentlich erwähnt. Um zukünftigen KI-Bedrohungen zu begegnen, habe die taiwanesische Regierung ihre Sicherheitsmaßnahmen verschärft.Verteidigung In der Bundeswehr wird künftig fast jede Waffe an der KI hängen von Thomas StölzelDie britische Zeitung „Financial Times“ hatte einen Tag zuvor unter Berufung auf das israelische Cybersicherheitsunternehmen Dream über einen neuartigen Angriff mutmaßlich mit China verbundener Hacker berichtet. Dream zufolge bauten die Angreifer aus frei verfügbaren KI-Agenten ein weitgehend autonom arbeitendes Werkzeug, das sich wie ein koordiniertes Hackerteam verhalten habe.Anfang Juli habe das System über vier Tage zeitweise bis zu acht KI-Agenten gleichzeitig eingesetzt. Sie hätten 21 Netzwerke staatlicher Stellen erfasst, nach Schwachstellen gesucht und bei Widerstand ihre Vorgehensweise verändert. Mindestens 85 Regierungskonten seien geknackt und mehr als 2.500 Personaldatensätze abgezogen worden. Der Angriff habe sich auch gegen Taiwans Atomaufsicht und mindestens sieben Energieunternehmen gerichtet.Dream ordnete die Attacke keiner bestimmten Hackergruppe zu. Vereinfachte chinesische Schriftzeichen in der internen Kommunikation deuteten den Forschern zufolge jedoch mit hoher Wahrscheinlichkeit auf einen Betreiber mit Verbindung zur Volksrepublik hin.11. August 2026 – Chiphersteller Nvidia arbeitet an neuen KI-ModellenDer US-amerikanische Chiphersteller Nvidia arbeitet laut „The Information“ an einem neuen KI-Modell. Ziel des Chipkonzerns sei es, mit den weltweit führenden Open-Source-Modellen zu konkurrieren, wie das Branchenportal unter Berufung auf mit dem Projekt vertraute Mitarbeiter berichtete. Wann die neue Modellfamilie namens Nemotron 4 veröffenlicht wird, sei bislang offen, da das abschließende Training noch ausstehe. Dem Bericht zufolge könnte das Modell jedoch im Herbst fertig sein.Der Chipkonzern selbst bestätigte zwar die Arbeit an Nemotron 4, äußerte sich jedoch nicht zu den Einzelheiten des Berichts. „Nvidia investiert in Nemotron“, erklärte Kari Briski, Vizepräsidentin für generative KI bei Nvidia, in einem Statement. Man sei davon überzeugt, dass jedes Unternehmen und jedes Land auf offene, für alle zugängliche Modelle der Spitzenforschung angewiesen sei.Millionen Dollar für Daten Für KI-Training? Google kauft Daten gescheiterter US-Airline Der Halbleiterkonzern gehört zu den wenigen großen US-Firmen, die Modelle mit offenem Quellcode veröffentlichen, schreibt die Nachrichtenagentur Reuters. Diese gewinnen an Bedeutung, da die Kosten für KI-Entwicklungen steigen und günstigere chinesische Modelle technologisch an die Systeme führender US-Entwickler wie Anthropic oder OpenAI heranreichen.Nvidia stellte am Dienstag außerdem sein neues Modell „Nemotron 3.5 Lightning“ vor. Laut dem Chiphersteller sei das kleine Modell auf Genauigkeit und Geschwindigkeit optimiert worden, um in Multi-Modell-Agentensystemen wie OpenClaw oder Hermes Agent eingesetzt zu werden. Mit „NeMo Switchyard“ veröffentlichte der Konzern zudem eine Open-Source-Bibliothek, die KI-Aufgaben automatisch an die am besten geeigneten Modelle weiterleiten soll.10. August 2026 – Chinesisches KI-Modell findet Lücke in TestumgebungDas KI-Modell Kimi K3 von Moonshot AI hat sich bei einer Evaluation ungeplant Zugang zum Internet verschafft, wie die Cybersecurity-Forscher Paul Kassianik und Yaron Singer im Blog „Frontier Security“ vergangene Woche mitteilten.Die Forscher erklärten, dass die KI eine Lücke in der Testumgebung des britischen AI Safety Instituts entdeckt und dadurch auf die Entwicklerplattform Github.com zugegriffen habe. Dort lud es die offiziellen Ergebnisse der ihm gestellten Testaufgabe herunter und umging damit die Notwendigkeit, die Aufgabe selbst lösen zu müssen. Schaden richtete das Modell bei dem Vorgang offenbar nicht an.Die Forscher betonten, dass fortschrittliche KI-Agenten darauf trainiert seien, die richtige Lösung zu finden – aber nicht unbedingt auf dem Weg, den Menschen beabsichtigen. Mittlerweile würden die Agenten routinemäßig nach Netzzugängen suchen und sie, wenn es sie gibt, auch finden. So könnten sie bei Cybersecurity-Tests schummeln, was bedeutet, dass ihre Fähigkeiten vielleicht weniger ausgeprägt sind, als die Testergebnisse vermuten lassen.Die Forscher empfehlen, den Internetzugang nur für explizit erwünschte Seiten zu erlauben. Auch sollten Tester davon ausgehen, dass KI-Agenten vorhandene Lücken im System finden. Und schließlich sollten verdächtige Ergebnisse über alle Modelle hinweg auf Schummeleien überprüft werden.Der Ausbruch des chinesisches KI-Modells reiht sich in eine Reihe von Cyerbersicherheitsvorfällen, die in den vergangenen Wochen bekannt wurden. Auch Modelle der US-Entwickler Anthropic, OpenAI und Meta konnten sich aus ihren Testumgebungen befreien und sind dabei teils sogar in die Computersysteme anderer Unternehmen eingedrungen, um die ihnen gestellten Aufgaben zu erfüllen.Ende Juli hatten mehr als 1000 führende KI-Experten in einem offenen Brief eine internationale Entwicklungsbremse für KI-Modelle gefordert, um zunächst Lösungen für die von Künstlicher Intelligenz ausgehenden Gefahren zu finden. Zu den Unterzeichnern zählen führende Forscher und Manager unter anderem von OpenAI, Anthropic, Google und Meta.Mit Agenturmaterial von dpa, dpa-AFX und Reuters. Mehr zum Thema Unsere Partner Anzeige Stellenmarkt Die besten Jobs auf Handelsblatt.com Anzeige ImmoScout Jetzt kostenlos den Wert deiner Immobilie ermitteln Anzeige IT BOLTWISE Fachmagazin in Deutschland mit Fokus auf Künstliche Intelligenz und Robotik Anzeige Remind.me Jedes Jahr mehrere hundert Euro Stromkosten sparen – so geht’s Anzeige Presseportal Lesen Sie die News führender Unternehmen! Anzeige Bellevue Ferienhaus Exklusive Urlaubsdomizile zu Top-Preisen Anzeige Übersicht Ratgeber, Rechner, Empfehlungen, Angebotsvergleiche Anzeige Finanzvergleich Die besten Produkte im Überblick