Die Sorgen vor den Gefahren künstlicher Intelligenz haben am Samstag zu einem Bremsmanöver an der Spitze der amerikanischen KI-Branche geführt. Mit Sam Altman, Dario Amodei und Elon Musk rieten gleich mehrere prominente Konzernvertreter zu einer Drosselung des Entwicklungstempos von KI. Das Unternehmen OpenAI, das mit ChatGPT den Hype um künstliche Intelligenz ausgelöst hatte, verschiebt wegen Sicherheitsbedenken sogar seinen Börsengang. Dieser war eigentlich noch in diesem Jahr geplant gewesen. „Man wäre schlecht beraten, genau jetzt an die Börse zu gehen“, sagte OpenAI-Chef Altman in einem Interview mit dem US-Magazin Fortune.Zur Begründung verwies Altman auf die aktuelle Debatte über die Risiken hoch entwickelter künstlicher Intelligenz. Es gebe noch „eine Menge zu tun“, um die Sicherheit zu erhöhen und die Zusammenarbeit der Branche mit Regierungsstellen zu verbessern. Sein Unternehmen habe bezüglich des Börsengangs keinen Druck, so Altman. Dass der Schritt an die Börse 2027 erfolgen könnte, schloss er nicht aus.Amodei verweist auf „ernsthafte“ Risiken für MenschenZuvor hatte bereits der Chef des KI-Konzerns Anthropic, Dario Amodei, dazu aufgerufen, bei der Entwicklung von künstlicher Intelligenz langsamer und bedachter vorzugehen. Er vewies auf „ernsthafte“ Risiken für Menschen. „Wir müssen das Tempo verlangsamen, mit dem wir die Fähigkeiten von KI-Modellen verbessern“, schreibt er in einem am Samstag veröffentlichten Essay. „Der Fortschritt wird sich weiterhin rasant anfühlen“, so Amodei, man müsse „die gewonnene Zeit“ aber „sinnvoll nutzen“, um die Risiken zu beherrschen. In seltener Einigkeit schlossen sich Altman und Musk mit Beiträgen in den sozialen Medien Amodeis Forderung an. Musk, Vorstandschef des Raumfahrtkonzerns SpaceX, der stark in KI investiert, schrieb auf X: „Dario hat recht.“In seinem Aufsatz stellt Amodei fest, dass sich die Entwicklung von künstlicher Intelligenz seit diesem Sommer drastisch beschleunigt habe – vor allem aufgrund ihrer wachsenden Fähigkeit, die nächste Generation von KI selbst zu entwickeln. Amodei begründet seine Sorge auch mit dem jüngsten Vorfall bei OpenAI und Hugging Face. Im Juli waren KI-Agenten aus ihrer Testumgebung ausgebrochen, um eine andere Firma zu hacken. „Angesichts der sich beschleunigenden Entwicklung von KI-Fähigkeiten befürchte ich, dass ein solcher Schwarm in sechs bis zwölf Monaten in der Lage sein könnte, mit einem hartnäckigen Botnetz das gesamte Internet zu übernehmen“, schreibt Amodei.KIs auf Abwegen:„Das fühlt sich nach mehr als der halben Strecke zur KI-Machtübernahme an“Im Juli waren KI-Agenten von Open AI aus ihrer Testumgebung ausgebrochen, um eine andere Firma zu hacken. Nun haben unabhängige Experten den Vorfall untersucht – und es zeigt sich: Es war noch viel beunruhigender als gedacht.Amodei plädiert für eine bessere Abstimmung der maßgeblichen KI-Entwickler „in demokratischen Ländern“. Das Ziel müssten „gemeinsame Sicherheitsstandards“ sowie „Begrenzungen des unkontrollierten Fortschritts der KI“ sein. Ein solches Regelwerk, so Amodei, sollten die Unternehmen selbst entwickeln – in Kooperation mit demokratischen Regierungen. Danach müsse es dann darum gehen, auch mit autoritären Regimen Absprachen zu treffen.Unabhängige Beobachter sollen die Sicherheit von KI-Modellen begutachtenAnthropic, kündigte Amodei an, werde – ohne auf andere zu warten – in einem ersten Schritt dauerhaft unabhängige Beobachter ins Unternehmen lassen, die schon in der Trainingsphase die Sicherheit von KI-Modellen begutachten sollen. Altman nannte das eine gute Idee und teilte mit, dass OpenAI das auch machen werde.Vor Kurzem hatte ein Anthropic-Forscher wegen Bedenken hinsichtlich der Sicherheit der Technologie gekündigt. Während des KI-Booms haben immer wieder KI-Entwickler vor potenziell existenziellen Risiken gewarnt – Warnungen, die bisweilen als bloße Versuche abgetan wurden, die Leistungsfähigkeit der eigenen Produkte zu vermarkten und sich selbst als verantwortungsvolle Hüter dieser Technologie zu positionieren. Amodei selbst hatte zuvor geäußert, es bestehe eine Wahrscheinlichkeit von 25 Prozent, dass die Entwicklung „wirklich, wirklich schlecht“ verlaufe.Besondere Aufmerksamkeit erlangte vor wenigen Tagen eine drastische Äußerung des Anthropic-Forschers Evan Hubinger. Er persönlich glaube, schrieb Hubinger auf X, die Gefahr, dass KI die Menschheit töte, liege „im kommenden Jahrzehnt bei mehr als zehn Prozent“. Hubinger ist bei Anthropic für „Alignment“ (Ausrichtung) zuständig, was in der KI-Forschung bedeutet, dass die Systeme sich entsprechend dem Willen ihrer Schöpfer verhalten sollen. „Anthropic gibt sein Bestes, aber wir haben noch keinen Plan, wie sich das Problem des Alignments von Superintelligenz lösen lässt, und wir sind auch noch auf keinem klaren Weg dorthin“, schrieb Hubinger.