Een federale rechter in Californië heeft de vergeldingsactie van het Amerikaanse ministerie van Defensie tegen AI-gigant Anthropic vrijdag onwettig verklaard. In februari liepen gesprekken tussen het ministerie en Anthropic over de gebruiksvoorwaarden voor het AI-model Claude uit op een knetterende ruzie. De regering-Trump zegde daarop de defensiecontracten met Anthropic op, en verklaarde het bedrijf tot een „risico in de toeleveringsketen”.
Dat zou betekenen dat alle bedrijven die zaken wilden doen met het Pentagon hun contracten met Anthropic moesten opzeggen. Zulke zware maatregelen worden doorgaans alleen ingesteld tegen buitenlandse bedrijven die van spionage worden verdacht. Dat was bij Anthropic geenszins het geval: de kwestie draaide om de vraag of Claude gebruikt zou mogen worden voor massasurveillance (van de Amerikaanse bevolking) en voor autonome wapens.
Anthropic ontwikkelt hoogstaande generatieve AI-modellen die grote hoeveelheden data kunnen analyseren, adviezen kunnen schrijven en apparatuur kunnen besturen. Zogeheten ‘vangrails’ moeten voorkomen dat Claude op ongewenste manieren wordt ingezet. Het Pentagon eiste dat Anthropic die vangrails zou uitschakelen, zodat de regering vrij zou zijn om te bepalen wat ze met Claude wilde doen, zoals inzetten op het slagveld.
