ChatGPTs Start war vor allem faszinierend: Mit einer Maschine zu chatten und halbwegs vernünftige Antworten zu bekommen, hatte etwas von Magie. Man testete eine Software im Schutz eines Chatfensters. Was sie tut, wenn keiner hinschaut, musste damals niemand fragen.Anzeige
Heute, knapp vier Jahre später, hat die KI-Entwicklung ein Tempo erreicht, das selbst den Lenkern der großen KI-Konzerne nicht geheuer ist. Der Angriff der KI-Agenten von OpenAI auf Hugging Face, den die Mitarbeiter von Sam Altman erst deutlich später entdeckten, markiert eine Zäsur. Ähnliche Vorfälle häuften sich in den vergangenen Wochen.
Grund genug für Anthropic-Chef Dario Amodei, einen bedeutungsschweren Essay zu veröffentlichen, in dem er ausdrücklich dafür plädiert, die KI-Entwicklung zu verlangsamen. Die Gefahren einer sich selbst verbessernden KI seien zu hoch, wenn es in dem aktuellen Tempo weitergehe. Erstaunlicherweise stimmten die Erzrivalen Elon Musk und Sam Altman zu.Anzeige
Aber was heißt das jetzt eigentlich? Müssen wir uns wirklich Sorgen machen, dass KI die Menschheit bis Ende des Jahrzehnts auslöscht? Und wenn nicht gleich auslöscht, dann versklavt, unterjocht, unsere Systeme lahmlegt? Oder doch alles „Angst-PR“, um sich kurz vor dem Börsengang nochmal ins Gespräch zu bringen? Für die Branche ist das jedenfalls eine erstaunlich bequeme Werbebotschaft: „Seht her, unsere Modelle sind so mächtig, dass wir sie selbst kaum kontrollieren können.“ Zumal Amodei in seinem Essay fordert, Chinas Fortschritt über Chipexporte und ein Vorgehen gegen Distillation so weit zu bremsen, dass Amerika seinen Vorsprung in drei bis fünf Jahren deutlich ausbaut – wer profitiert: Anthropic und Konsorten. Also doch alles zum Wohle der US-Akteure?
