Der auf künstliche Intelligenz spezialisierte US-Konzern Anthropic plädiert für eine weltweite Pause bei der Entwicklung immer leistungsstärkerer KI-Systeme. Eine weltweite Verlangsamung der Spitzenforschung im KI-Bereich wäre »wahrscheinlich sinnvoll«, erklärte der in San Francisco beheimatete Konzern in einem Post auf seiner Website.
Anthropic begründet die Entwicklungspause mit der Möglichkeit, dass sich KI-Systeme künftig selbst verbessern und weiterentwickeln könnten. Eine KI, die sich selbst optimiere, wäre »eine bahnbrechende Entwicklung in der Technologiegeschichte«. Sie könne enormen Nutzen in Wissenschaft und das Gesundheitswesen bringen.Doch eine solche Selbstoptimierung berge auch das Risiko, dass der Mensch die Kontrolle über KI-Systeme verliere. Wenn Systeme in der Lage seien, ihre Nachfolger vollständig selbst zu entwerfen, sei es wichtig, die Systeme sichern, überwachen und ihr Verhalten steuern zu können.
„Entwicklung von KI-Systemen verlangsamen“Man sei bislang noch nicht so weit, dass KI sich selbst optimieren könne. Diese sogenannte rekursive Selbstverbesserung sei auch nicht unausweichlich. „Sie könnte jedoch schneller eintreten als von den meisten Institutionen erwartet.“Bei der vorgeschlagenen Entwicklungspause müssten laut Anthropic alle KI-Größen in der Welt mitmachen: Sollte ein einzelnes Unternehmen allein pausieren, würden die Konkurrenten einfach an ihm vorbeiziehen.
