PfadnavigationHomeWissenschaftNach schweren VorfällenMehr Zeit für Sicherheitskontrollen – Anthropic warnt vor den Risiken immer mächtigerer KIStand: 22:36 UhrLesedauer: 2 MinutenDer KI-Entwickler Anthropic will das Tempo der technischen Entwicklung drosselnQuelle: SOPA Images/LightRocket via Getty ImagesGehackte Systeme, missbrauchte Modelle und Warnungen vor möglichen Katastrophen: Die Sorgen über die Risiken künstlicher Intelligenz wachsen. Anthropic fordert deshalb mehr Zeit für Sicherheit und unabhängige Prüfungen.GoogleKlicken Sie hier, um sich Artikel von WELT in der Google-Suche bevorzugt anzeigen zu lassen.Jetzt aktivierenAngesichts wachsender Sorgen vor einem Missbrauch Künstlicher Intelligenz (KI) hat der Entwickler Anthropic ⁠ein langsameres Tempo bei der Verbesserung der Modelle gefordert. Die Geschwindigkeit müsse gedrosselt werden, schrieb Anthropic-Chef Dario Amodei auf der Plattform X. Der Fortschritt werde dennoch weiterhin schnell ⁠erscheinen. Die gewonnene Zeit müsse aber klug genutzt werden.Die Sorge vor möglichen Schäden ‌durch KI war in dieser ​Woche weiter gewachsen, nachdem der ‌Anthropic-Forscher Jacob Coxon zurückgetreten war. Zur Begründung hatte er gesagt, er ​sehe eine immer größere Bedrohung durch KI und die Möglichkeit, dass diese bereits bis zum ​Ende des Jahrzehnts massenhaft töten könne. Auch die Vereinten Nationen (UN) hatten gewarnt, KI könne die Existenz der Menschheit gefährden.In der Branche hatten sich zuletzt ​Vorfälle gehäuft, bei denen KI-Agenten von Entwicklern wie dem Anthropic-Rivalen OpenAI externe Systeme gehackt oder versucht haben, ‌darauf zuzugreifen. Dies hat die Bedenken hinsichtlich der zunehmenden Leistungsfähigkeit der Modelle und eines möglichen Kontrollverlusts verstärkt.Lesen Sie auchDie Probleme haben auch die Politik alarmiert. Die Nachrichtenagentur Reuters hatte am Freitag unter Berufung auf Insider berichtet, führende US-Senatoren verhandelten über ein Gesetz, das große Tech-Konzerne wie Google und OpenAI zu mehr Sicherheit bei der Entwicklung von KI-Anwendungen verpflichten soll. Der ⁠Entwurf sehe eine sogenannte Sorgfaltspflicht für KI-Entwickler vor. Zudem solle es der Regierung möglich sein, die Veröffentlichung unsicherer KI-Modelle zu blockieren.Anthropic-Chef Amodei ‌forderte auf X aber keinen Stopp des Trainings oder des technischen Fortschritts. Vielmehr müssten Firmen ausreichend Zeit haben, ‌um ihre Modelle abzusichern, was von externen Prüfern bestätigt werden müsse. Er ‌schlug unter anderem den Einsatz permanenter, ⁠unabhängiger Kontrolleure ⁠in führenden KI-Firmen vor, die Zugang zu relevanten Werkzeugen und internen Risikobewertungen ‌erhalten. Zudem sollten die Firmen freiwillig zusammenarbeiten, um ​Standards festzulegen.Lesen Sie auchDer Vorstoß folgt auf einen am Donnerstag veröffentlichten Bericht von Anthropic zur Bedrohungslage. Darin legte das Unternehmen ​dar, wie ​verschiedene Akteure seine KI-Modelle der Claude-Familie für Aktivitäten nutzten, die von der Waffenentwicklung über Cyber-Operationen bis hin zu ⁠Überwachung und Betrug reichten.Zuletzt hatte Reuters berichtet, außer Kontrolle geratene OpenAI-Agenten hätten eine deutsche Website gekapert. OpenAI-Führungskräfte hätten das unter Verschluss gehalten, während sie mit den Folgen eines Hackerangriffs auf ​die Open-Source-Plattform Hugging Face im Juli zu kämpfen gehabt hätten.Reuters/ceb