Anthropic-Chef Amodei
Am späten Samstagnachmittag deutscher Zeit stellt der Chef des KI-Konzerns Anthropic einen Blogbeitrag ins Internet. Titel: »We Must Pace the Frontier«. Was in etwa so viel heißen soll, wie: »Wir müssen das Tempo verlangsamen«.Darin beschreibt Dario Amodei, warum er in den vergangenen Wochen seine eigene Haltung zur künstlichen Intelligenz überdacht habe. Bislang, so Amodei, habe er angenommen, es genüge, wenn KI-Firmen wie seine einige Milliarden in die Sicherheit ihrer Software investierten.
Nun sei er »überzeugt«, dass das allein nicht ausreiche. Stattdessen müsse die gesamte KI-Branche das Entwicklungstempo ihrer leistungsfähigsten Modelle verlangsamen »damit die Risikoprävention hinterherkommt«. Andernfalls, so Amodeis Botschaft, blieben der Menschheit sechs bis zwölf Monate. Dann gerate die Technologie außer Kontrolle.Er, so Amodei, gehe jetzt einen »ersten Schritt«. Verpflichte seine Firma ab sofort, unabhängige Prüfer hereinzulassen, um Anthropics Software auf ihre Sicherheit zu checken. Der KI-TÜV solle dabei mit demselben Zugang wie die internen Teams der Firma ausgestattet werden, seine Ergebnisse »ohne redaktionelle Kontrolle« durch Anthropic veröffentlichen können.
