Startseite
Technologie
IT + Telekommunikation
KI-Sicherheit: Dario Amodei warnt vor KI-Katastrophe Der Anthropic-Chef fordert in einem viel beachteten Essay, die Entwicklung neuer Modelle zu drosseln – und räumt Pannen im eigenen Haus ein. Sein Drei-Stufen-Plan reicht bis nach China.
Anthropic-Mitgründer Dario Amodei: „Wir müssen das Tempo verlangsamen." Foto: BloombergSan Francisco. Es ist die bislang deutlichste Warnung von der Spitze eines führenden Labors für Künstliche Intelligenz (KI): „Wir müssen das Tempo verlangsamen, mit dem wir die Fähigkeiten der KI-Modelle steigern“, schreibt Dario Amodei, Mitgründer und Chef des Claude-Entwicklers Anthropic, in einem neuen, viel beachteten Essay.Der Text mit dem Titel „We Must Pace the Frontier“ wurde am Samstag veröffentlicht – und traf schnell auf Unterstützung. Tech-Milliardär Elon Musk, Chef des Konkurrenten xAI, erklärte kurz darauf, Amodei habe recht. OpenAI-Chef Sam Altman kündigte unterdessen an, wie Anthropic unabhängige Prüfer mit Mitarbeiter-Zugang ins eigene Haus zu holen.Einen Entwicklungsstopp fordert Amodei nicht. Er will Zeit gewinnen: für Sicherheitstraining, für den Blick ins Innenleben der Modelle, für robustere Tests. „Der Fortschritt wird sich weiter schnell anfühlen“, schreibt er. „Wir müssen die gewonnene Zeit klug nutzen.“Zwei Entwicklungen hätten ihn umgestimmt. Erstens baut KI zunehmend selbst die nächste KI-Generation – das beschleunige die Entwicklung seit dem Sommer drastisch, „auch bei Anthropic“. Zweitens hätte der bekannte Vorfall zwischen OpenAI und der Entwicklerplattform Hugging Face, bei dem ein Schwarm von KI-Agenten ungefragt in fremde Systeme eindrang, weit schlimmer ausgehen können. Mehr zum Thema Unsere Partner Anzeige remind.me Jetziges Strom-/Gaspreistief nutzen, bevor die Preise wieder steigen Anzeige ImmoScout Jetzt kostenlos den Wert deiner Immobilie ermitteln Anzeige IT BOLTWISE Fachmagazin in Deutschland mit Fokus auf Künstliche Intelligenz und Robotik Anzeige Presseportal Direkt hier lesen! Anzeige STELLENMARKT Mit unserem Karriere-Portal den Traumjob finden Anzeige Expertentesten.de Produktvergleich - schnell zum besten Produkt
