Als Bill Gates (70), een techno-optimist pur sang, een grootscheeps mediaoffensief begint om te waarschuwen voor AI, dan is het menens. Woensdag verschenen, naast zijn essay van zesduizend woorden, in zo’n beetje alle toonaangevende Amerikaanse media exclusieve interviews waarin de Microsoft-medeoprichter precies dezelfde boodschap deelde: AI-ontwikkeling is op het punt aanbeland dat het, zonder betere regulering, meer kwaad zal aanrichten dan goeds.
Ik zou Gates’ stress niet snel als aanleiding gebruiken voor deze nieuwsbrief, ware het niet dat hij past in een breder, zorgwekkend patroon in de AI-industrie. Een bizarre hack door AI-agents van OpenAI bij Hugging Face (een digitale bibliotheek met AI-technologieën), in juli gedetecteerd, heeft AI-bedrijven op scherp gezet. OpenAI en Anthropic onderschreven eind juli een open brief waarin honderden medewerkers van concurrerende AI-bedrijven de Amerikaanse regering opriepen om manieren te vinden om AI-ontwikkeling te kunnen afremmen, voordat het te laat is.
Over die hack kwamen donderdag nieuwe details naar buiten. Honderden AI-agents werkten via verborgen communicatiekanalen samen om bij Hugging Face in te breken, op zoek naar een antwoord op een vraag die ze zelf niet konden beantwoorden. Deze zelfbenoemde „zwerm” bestond uit een leider, managers en voetvolk dat zich opofferde voor het collectief. Alle AI-systemen ‘wisten’ dat ze verkeerd bezig waren, maar kozen de kant van hun „peers” – niet van de mens.
