KI: Forscher schlagen Alarm – Systeme könnten Menschheit auslöschen

Startseite

Technologie

Digitale Welt

KI-Regulierung: KI-Forscher schlagen Alarm – Systeme könnten Menschheit auslöschen Experten warnen vor tödlichen Gefahren durch Künstliche Intelligenz. In den USA hat das eine Debatte über strengere Regeln ausgelöst.

Eine neue Debatte über Vorschriften bei Künstlicher Intelligenz läuft an. Foto: IMAGO/NurPhotoWarnungen von KI-Experten vor tödlichen Folgen durch die Entwicklung der künstlichen Intelligenz haben in den USA eine Debatte über neue Vorschriften ausgelöst. Mehrere US-Abgeordnete forderten klare Regeln für die Entwicklung und den Einsatz von KI-Systemen. Auslöser sind drastische Warnungen zweier Forscher des US-Unternehmens Anthropic, dass die rasante Entwicklung der künstlichen Intelligenz in nicht allzu ferner Zukunft zum Auslöschen der Menschheit führen könnte.Der Anthropic-Forscher Jacob Coxon kündigte mit der Begründung seinen Job, er sehe eine immer größere Bedrohung durch KI und die Möglichkeit, dass diese bereits bis zum Ende des Jahrzehnts massenhaft töten könne. Der Anthropic-Wissenschaftler Evan Hubinger schloss sich dieser Meinung an. „Wir glauben wirklich ernsthaft, dass KI alle Menschen töten könnte“, schrieb Hubinger auf der Plattform X. „Ich persönlich schätze die Wahrscheinlichkeit auf mehr als zehn Prozent innerhalb des nächsten Jahrzehnts ein.“Neben diesen beiden gibt es eine ganze Reihe weiterer KI-Experten, die vor den Gefahren warnen. Joe Benton, der früher ein Sicherheitsforschungsteam bei Anthropic leitete, erklärte gegenüber dem US-Sender NBC, er befürchte, dass sich die KI „zu schnell entwickeln könnte, als dass wir uns rechtzeitig darauf einstellen könnten“. Er arbeitet heute für die gemeinnützige Forschungseinrichtung METR, die untersucht, ob und wann KI-Systeme eine Gefahr für die Gesellschaft darstellen könnten.„Sie setzen unser Leben aufs Spiel“ Anthropic-Experte kündigt aus Angst vor der KI Unter KI‑Forschern wächst die Angst vor der Künstlichen Intelligenz. Jetzt zieht ein Anthropic-Angestellter persönlich Konsequenzen – und hält der Branche den Spiegel vor. von Sebastian SchugKI-Agenten außer Kontrolle: Zahl steigt anHintergrund ist eine zunehmende Zahl an bekanntgewordenen Fällen, in denen KI-Agenten außer Kontrolle gerieten und externe Systeme hackten. Zudem werden Waffensysteme und etwa Drohnen entwickelt, die ohne menschliche Entscheidung agieren und angreifen können. Daneben läuft eine heftige Debatte über den immer schnelleren Aufbau riesiger Rechenzentren zur KI-Entwicklung.US-Politiker auf beiden Seiten des politischen Spektrums zeigten sich alarmiert. „Washington muss aufwachen und das ernst nehmen“, schrieb etwa der demokratische Senator aus Arizona, Mark Kelly, auf X. Der republikanische Senator Ted Cruz aus Texas verwies auf „katastrophale Risiken“ der KI und auf Gesetzesvorhaben zur Regulierung.GPT-6 vorgestellt Wie mächtig ist OpenAIs neue KI? von Andreas MennDie republikanische Abgeordnete im US-Repräsentantenhaus, Anna Paulina Luna, forderte eine Sondersitzung zum Thema KI. Anfang der Woche setzte sich auch das US-KI-Unternehmen OpenAI für verbindliche nationale Sicherheitsvorschriften für den KI-Einsatz in den USA ein.Donald Trump verweist auf Rennen mit ChinaUS-Präsident Donald Trump erklärte jedoch am Donnerstag, er habe keinerlei Bedenken, dass KI zum Ende der Menschheit führen könnte. „Ich befürchte, dass wir in eine sehr schlechte Lage geraten, wenn wir im Bereich der KI nicht die Oberhand gewinnen. Derzeit liegen wir deutlich vor China“, sagte er am Dallas Fort Worth International Airport. Die USA drängen die G20-Mitglieder wie Deutschland dazu, bei der Regulierung der KI einen zurückhaltenden Ansatz zu verfolgen.Ein Sprecher von Anthropic, das sich auf einen Börsengang vorbereitet und laut Investoren eine Bewertung von bis zu zwei Billionen Dollar hat, erklärte am Donnerstag, das Unternehmen werde weiterhin „Modelle oder gefährliche Fähigkeiten in Bereichen wie Cybersicherheit und Biologie“ intensiv testen. Hintergrund ist, dass nicht nur Staaten, sondern auch Firmen untereinander im Rennen um die leistungsfähigsten KI-Systeme stehen. rtr Mehr zum Thema Unsere Partner Anzeige Stellenmarkt Die besten Jobs auf Handelsblatt.com Anzeige ImmoScout Jetzt kostenlos den Wert deiner Immobilie ermitteln Anzeige IT BOLTWISE Fachmagazin in Deutschland mit Fokus auf Künstliche Intelligenz und Robotik Anzeige Remind.me Jedes Jahr mehrere hundert Euro Stromkosten sparen – so geht’s Anzeige Presseportal Lesen Sie die News führender Unternehmen! Anzeige Bellevue Ferienhaus Exklusive Urlaubsdomizile zu Top-Preisen Anzeige Übersicht Ratgeber, Rechner, Empfehlungen, Angebotsvergleiche Anzeige Finanzvergleich Die besten Produkte im Überblick