Das auf Künstliche Intelligenz spezialisierte Unternehmen Anthropic geht mit einem Produkt, über das es in jüngster Zeit intensive Diskussionen gab, einen neuen Weg und macht es für die breite Öffentlichkeit verfügbar. Es handelt sich dabei um das KI-Modell Mythos. Es kam im April heraus und verfügt nach Darstellung Anthropics über ausgeprägte Fähigkeiten, Sicherheitslücken in Software zu finden und auszunutzen. Das macht es nicht nur für Softwareanbieter wertvoll, sondern auch für Hacker. Wegen dieses Sicherheitsrisikos hat Anthropic Mythos zunächst nur einem ausgewählten Kreis von Nutzern zugänglich gemacht, darunter Technologiekonzernen wie Microsoft, Google und Nvidia.Nun hat Anthropic angekündigt, ein Modell der „Mythos-Klasse“ für die Allgemeinheit zu veröffentlichen, allerdings mit eingebauten Schutzmechanismen. Es heißt Claude Fable 5 und ist so programmiert, dass es Anfragen zu bestimmten sensiblen Themen abblockt und an Claude Opus 4.8 weiterleitet, ein anderes Anthropic-Modell. Konkret sind dies Anfragen rund um Cybersicherheit und Biologie. Damit soll unter anderem verhindert werden, dass das Modell für Hacking oder die Entwicklung von Biowaffen missbraucht wird.Anthropic sagt, diese Schutzmechanismen seien noch „konservativ“ eingestellt. Sie seien „strenger, als es ideal wäre“, und würden auch „harmlose Anfragen“ herausfiltern. Manche Nutzer stellten fest, dass Fable 5 auch Anfragen nach Krankheiten wie Krebs blockiert und weiterleitet. Anthropic verspricht, daran zu arbeiten und „Fehlalarme“ möglichst schnell zu reduzieren. Insgesamt zeigten frühe Tests aber, dass das Fable-Modell mehr als 95 Prozent aller Anfragen beantworte, ohne sie weiterzuleiten. In diesen Fällen arbeite Fable 5 im Prinzip genauso wie Mythos 5, die jetzt ebenfalls vorgestellte neue Version der Mythos-Reihe, die nur für den eingeschränkten Nutzerkreis verfügbar ist. Sowohl Fable 5 als auch Mythos 5 sind kostenpflichtig.Forderung nach MoratoriumAnthropic beschreibt Fable 5 als sein bislang leistungsfähigstes Modell, das für die Allgemeinheit zugänglich ist. Es sei besonders gut auf Gebieten wie Softwareentwicklung oder wissenschaftliche Forschung. Opus 4.8, die Ausweichlösung für bestimmte Anfragen, sei das nächstbeste Modell.Mythos wurde nach seiner Vorstellung im April schnell zum Politikum und hat Sicherheitssorgen in der amerikanischen Regierung geweckt. Es soll auch zu einem Umdenken in der KI-Politik beigetragen haben. Der Kurs unter dem US-Präsidenten Donald Trump zielte bis dahin darauf ab, der Technologiebranche weitgehende Freiheit zu lassen und sie möglichst wenig zu regulieren. Anfang Juni gab er aber ein Dekret heraus, das der Regierung zumindest ein Stück weit mehr Aufsicht verschaffen könnte. Es sieht vor, dass KI-Unternehmen ihre Modelle der Regierung auf freiwilliger Basis zur Prüfung zur Verfügung stellen, bevor sie veröffentlicht werden. Dieses Dekret fiel allerdings weniger streng aus, als es zwischenzeitlich im Gespräch war.„Entwicklung fortgeschrittener KI zu verlangsamen oder vorübergehend zu stoppen“Anthropic positioniert sich seit seiner Gründung im Jahr 2021 als besonders sicherheitsbewusst und hat öfter vor den Risiken seiner eigenen Produkte gewarnt. Erst in der vergangenen Woche hat das Unternehmen ein branchenweites Moratorium für die Entwicklung von KI-Technologien vorgeschlagen. „Wir glauben, es wäre gut für die Welt, die Option zu haben, die Entwicklung fortgeschrittener KI zu verlangsamen oder vorübergehend zu stoppen“, hieß es. Damit dies funktioniere, müssten KI-Unternehmen über verschiedene Länder hinweg zustimmen, ihre Arbeit unter den gleichen Bedingungen einzustellen.Ungeachtet dieses Appells bringt Anthropic selbst in kurzen Abständen neue KI-Modelle voraus. Das Unternehmen bereitet auch seinen Börsengang vor, in der vergangenen Woche hat es seinen Börsenprospekt bei der Aufsichtsbehörde SEC eingereicht. Es hat auch erst vor wenigen Wochen im Rahmen einer weiteren Finanzierungsrunde Geld von Investoren eingesammelt und ist dabei mit 965 Milliarden Dollar bewertet worden. Damals sagte es, der aufs Jahr hochgerechnete Umsatz liege mittlerweile bei 47 Milliarden Dollar. Im April war noch von 30 Milliarden Dollar die Rede.