Goedemorgen,
Kanker genezen? Wereldwijde overvloed creëren? Een AI-agent van OpenAI had duidelijk andere plannen dan de grote beloftes van zijn makers. De agent, een AI-programma dat zelfstandig taken kan uitvoeren op basis van menselijke instructies, heeft op eigen houtje kwetsbaarheden ontdekt en zich een weg naar binnen gehackt bij de start-up Hugging Face. Dat meldde OpenAI vannacht zelf. Het is volgens OpenAI een van de eerste bekende voorbeelden van een cyberaanval door een AI-systeem dat buiten menselijke controle opereerde.
Het bedrijf achter ChatGPT noemt het een „ongekend incident”: een agent ontsnapte uit een afgeschermde testomgeving, kreeg toegang tot internet en stal inloggegevens om de hack uit te voeren.
Het incident voedt de groeiende zorg over geavanceerde AI die digitale infrastructuur binnendringt en menselijke controlemechanismen omzeilt. OpenAI verwacht dat dit soort voorvallen vaker zal voorkomen, en zegt contact te hebben gehad met opsporingsdiensten en overheidsinstanties. Topman Sam Altman reist volgende week naar Washington om de Amerikaanse regering bij te praten over komende generaties AI-modellen. Die regering wil nieuwe modellen steeds vaker vooraf toetsen, mede vanwege de wereldwijde onrust rond Anthropics Mythos-model, dat zelfs even op zwart kwam te staan toen de Amerikaanse overheid ingreep.
