Ontwikkelaars van over de hele wereld die afgelopen dinsdag enthousiast aan de slag gingen met het nieuwste AI-model, Fable 5, kwamen vrijdag van een koude kermis thuis. Het model bleek offline gehaald – weg mogelijkheid om met een simpele opdracht hele games of andere ingewikkelde software te maken.
Aanleiding: de Amerikaanse regering verbood Anthropic abrupt om nog langer niet-Amerikanen toegang te geven tot Fable 5 en het onderliggende taalmodel Mythos 5. Aangezien bij Anthropic zelf veel niet-Amerikanen aan de modellen werken, zag het Amerikaanse bedrijf geen andere mogelijkheid dan beide helemaal offline te halen. En verdere ontwikkeling voorlopig stil te leggen.
Mythos 5 is heel goed in het vinden van zwakheden in cyberbeveiliging en is daarom maar voor een beperkte groep overheden en bedrijven beschikbaar. Fable is eigenlijk hetzelfde model, en om dat wel vrij verkrijgbaar te maken, zijn daar ‘vangrails’ in aangebracht.
Volgens Anthropic heeft de Amerikaanse regering als reden voor het verbod voor beide modellen aangevoerd dat er bewijs zou zijn dat de modellen makkelijk te ‘jailbreaken’ zijn. Dat is het omzeilen van de interne regels van software, zodat die dingen gaat doen die de maker ervan eigenlijk geblokkeerd had. Dat zou ervoor zorgen dat Fable buiten de vangrails ging, en zich eigenlijk gedroeg als Mythos. Anthropic ontkent overigens dat de jailbreak ernstig is. Volgens de Amerikaanse krant The Wall Street Journal hadden medewerkers van Amazon de kwetsbaarheden ontdekt.
