Het Amerikaanse bedrijf ontving naar eigen zeggen het bevel om zijn modellen Fable 5 en Mythos 5 niet langer beschikbaar te stellen aan buitenlanders binnen en buiten de VS. Anthropic moet dat doen vanwege zorgen over de nationale veiligheid.
"Het gevolg van dit bevel is dat we Fable 5 en Mythos 5 abrupt moeten uitschakelen voor al onze klanten om aan de regelgeving te voldoen", schrijft het bedrijf in een statement.
De overheid zou zich zorgen maken over de kans op een zogenoemde jailbreak. Dat is het omzeilen van de veiligheidsmechanismen die in het model zijn verwerkt. Maar er is volgens Anthropic weinig bewijs dat dit kan gebeuren. Het bedrijf zegt het daarom oneens te zijn met de beslissing van de overheid.
Volgens berichtgeving van Axios blijven de modellen afgeschermd totdat het Amerikaanse veiligheidsapparaat beter is voorbereid op mogelijke risico's, bijvoorbeeld voor de cyberveiligheid. Dat zou binnen enkele weken het geval kunnen zijn.
Ook eerder was er een conflict tussen Anthropic en de Amerikaanse overheid. Het bedrijf weigerde het leger toestemming te geven om zijn AI-modellen te gebruiken voor binnenlandse surveillance en volledig autonome wapensystemen. De overheid reageerde door Anthropic op een zwarte lijst te plaatsen.
