Die lautet: Besonders leistungsfähige KI-Systeme sollen nicht schneller wachsen, als Sicherheitsmaßnahmen und Kontrolle mithalten können. Dabei geht es nicht um einen kompletten Stopp der KI-Entwicklung.Anzeige
Amodei fordert vielmehr ein kontrolliertes „Pacing“, also ein verlangsamtes Tempo bei besonders leistungsfähigen Modellen. Denn durch die beachtlichen Leistungssteigerungen hilft KI nach seiner Darstellung bereits zunehmend dabei, ihre eigenen Nachfolger immer schneller zu entwickeln.
Wie die Süddeutsche Zeitung berichtet, hat die Sicherheitsdebatte für OpenAI offenbar bereits wirtschaftliche Folgen. Das Unternehmen verschiebt seinen bislang für dieses Jahr erwarteten Börsengang. Altman schloss einen späteren Gang aufs Finanzparkett im Jahr 2027 allerdings nicht aus.Anzeige
Anthropic-CEO Dario Amodei warnt vor Kontrollverlust
Auslöser der neuen Debatte ist ein ausführlicher Beitrag von Dario Amodei. Auf seiner Website warnt der Anthropic-Chef vor einer KI, die beim Bau ihrer eigenen Nachfolger hilft. Diese „rekursive Selbstverbesserung“ könnte den Fortschritt laut Amodei so stark beschleunigen, dass Menschen mit Prüfung, Verständnis und Kontrolle der Systeme nicht mehr hinterherkommen.
