Ein Forscher hat mit dramatischen Worten seinen Job bei Anthropic gekündigt und behauptet, dass die KI-Firma genauso wie OpenAI – wo er vorher gearbeitet hat – nicht verantwortungsvoll handle. „Die Menschen, die KI entwickeln, sind fest davon überzeugt, dass die uns bis zum Ende des Jahrzehnts auslöschen könnte“, schreibt der 27-Jährige namens Jacob Coxon auf dem Kurznachrichtendienst X. „Keine andere menschliche Aktivität ist so gefährlich“, schreibt er weiter. Während man die enorme Gefahr bei OpenAI nicht verstanden haben möge, sei das bei Anthropic anders, erklärt er: „Doch sie befinden sich in einem Wettlauf, um als Erste anzukommen und sie glauben, dass niemand sonst verantwortungsvoll handeln wird.“ Deshalb meinten sie, das Risiko eingehen zu müssen.
Der gesamte Text
(Bild: @hilbertspaess@hilbertspaess)
Lage bald „außer Kontrolle“
Laut den Beiträgen auf X und einem ausführlichen Artikel beim Wall Street Journal hat sich der 27-jährige Brite auf das Training neuer KI-Modelle mit riesigen Datenmengen spezialisiert. Gegenüber der US-Zeitung hat er demnach erklärt, dass viele seiner ehemaligen Kolleginnen und Kollegen die Begriffe „Crunchtime“ und „Endgame“ („Endspiel“) benutzen, wenn sie über die Richtung der Branche sprechen. „Wir steuern auf viele der pessimistischsten dieser Szenarien zu, bei denen die Lage bereits Ende nächsten Jahres außer Kontrolle geraten könnte“, zitiert das Wall Street Journal noch. Auf X schreibt er noch, dass eine Koordinierung möglich scheine und „Warnschüsse“ wie der automatisierte Hackerangriff auf Hugging Face Vereinbarungen wahrscheinlicher gemacht hätten.
