OpenAI is het bedrijf achter taalmodel ChatGPT en testte een van de geavanceerdste AI-modellen. Het ging mis tijdens een proef in een streng gecontroleerde digitale testomgeving. De toegang tot het internet was uit veiligheidsoverwegingen beperkt.
Het model deed er alles aan om toegang te krijgen tot het open internet, meldt OpenAI in een verklaring. Het lukte om de beveiliging te omzeilen en verbinding met het internet te maken.
Vervolgens besloten het model het platform Hugging Face aan te vallen. Dat is een groot platform met meerdere AI-modellen. Het model combineerde volgens OpenAI "meerdere aanvalsmethoden, waaronder het gebruik van gestolen inloggegevens". Het bedrijf spreekt van een "ongekend cyberincident".
Hoogleraar informatica Hussein Abbass zegt tegen persbureau AFP dat het incident "op veel fronten opmerkelijk" is. Het systeem viel volgens hem niet alleen Hugging Face aan, maar ook het interne systeem om de eigen kwetsbaarheden daarvan uit te buiten.
"Dat is beangstigend", zegt Abbass. Volgens hem kan het "catastrofale gevolgen" hebben als deze technologie in handen komt van iemand met kwade bedoelingen.
