Al jaren waarschuwen experts ervoor, en deze zomer was het zover. Kunstmatige intelligentie die zich onttrekt aan menselijke controle, samenzweert tegen haar makers en de macht over computersystemen overneemt. Het is geen sciencefiction meer. Het is de ontsporing van een technologie die AI-bedrijven in hoog tempo verder ontwikkelen.
Stapsgewijs is de afgelopen weken steeds meer en steeds verontrustender informatie naar buiten gekomen over de autonoom opererende zwermen AI-modellen van het Amerikaanse bedrijf OpenAI. Waar eerst werd aangenomen dat enkele zogenoemde AI-agents op eigen houtje buiten de kaders opereerden, blijkt nu dat honderden agents op eigen initiatief binnendrongen in de software van andere bedrijven.
Ze gaven zichzelf namen, zoals PHASEONE 10841, noemden zich een collectief en opereerden ook zo. Ze zetten een online berichtenprikbord op om met elkaar te communiceren, stalen data en onderzochten hoe ze het best de sporen van hun activiteiten konden uitwissen om hun menselijke opdrachtgevers, en hun door AI bestuurde beoordelaars, te misleiden.
Ze zetten elkaar onder druk om regels te overtreden. Ze slaagden erin om de controle over de server van Hugging Face (een belangrijke digitale bibliotheek met AI-technologie) over te nemen en vielen ook hun maker, OpenAI, aan. Al eerder, bleek vorige week, hadden OpenAI-agents met succes een Duitse website aangevallen, onder controle gekregen, en omgevormd tot een prikbord om hun operaties mee te coördineren.
