Dario Amodei, Chef des KI-Konzerns Anthropic, hat seine Branche dazu aufgerufen, das Entwicklungstempo neuer Modelle künstlicher Intelligenz zu drosseln. Amodei verweist auf wachsende Bedenken hinsichtlich „ernsthafter“ Risiken für Menschen. „Wir müssen das Tempo verlangsamen, mit dem wir die Fähigkeiten von KI-Modellen verbessern“, schreibt er in einem am Samstag veröffentlichten Essay. „Der Fortschritt wird sich weiterhin rasant anfühlen, und wir müssen die gewonnene Zeit sinnvoll nutzen.“Dabei nennt Amodei zwei Faktoren: Seit etwa diesem Sommer habe sich die Entwicklung von künstlicher Intelligenz drastisch beschleunigt, vor allem aufgrund ihrer wachsenden Fähigkeit, die nächste Generation von KI selbst zu entwickeln, schreibt er.Seine zweite Sorge betreffe den jüngsten Vorfall von OpenAI und Hugging Face. Im Juli waren KI-Agenten aus ihrer Testumgebung ausgebrochen, um eine andere Firma zu hacken. „Angesichts der sich beschleunigenden Entwicklung von KI-Fähigkeiten befürchte ich, dass ein solcher Schwarm in sechs bis zwölf Monaten in der Lage sein könnte, mit einem hartnäckigen Botnetz das gesamte Internet zu übernehmen“, schreibt Amodei.KIs auf Abwegen:„Das fühlt sich nach mehr als der halben Strecke zur KI-Machtübernahme an“Im Juli waren KI-Agenten von Open AI aus ihrer Testumgebung ausgebrochen, um eine andere Firma zu hacken. Nun haben unabhängige Experten den Vorfall untersucht – und es zeigt sich: Es war noch viel beunruhigender als gedacht.Binnen weniger Stunden bekam Dario Amodei Zuspruch von einem seiner wichtigsten Rivalen, dem Chef des ChatGPT-Entwicklers OpenAI. Er sei auch der Ansicht, dass das Tempo bei der Entwicklung leistungsstärkster KI-Modelle moderiert werden müsse, schrieb Sam Altman auf der Online-Plattform X.Amodei plädiert zwar für eine koordinierte branchenweite Pause in der westlichen Welt. Zugleich werde Anthropic – ohne auf andere zu warten – in einem ersten Schritt dauerhaft unabhängige Beobachter ins Unternehmen lassen, die schon in der Trainingsphase die Sicherheit von KI-Modellen begutachten sollen. Altman nannte das eine gute Idee und kündigte an, dass OpenAI das auch machen werde.Vor wenigen Tagen hatte ein Anthropic-Forscher wegen Bedenken hinsichtlich der Sicherheit der Technologie gekündigt. Während des KI-Booms haben immer wieder KI-Entwickler vor potenziell existenziellen Risiken gewarnt – Warnungen, die bisweilen als bloße Versuche abgetan wurden, die Leistungsfähigkeit der eigenen Produkte zu vermarkten und sich selbst als verantwortungsvolle Hüter dieser Technologie zu positionieren.Amodei selbst hatte zuvor geäußert, es bestehe eine Wahrscheinlichkeit von 25 Prozent, dass die Entwicklung „wirklich, wirklich schlecht“ verlaufe.