Dario Amodei, topman van AI-reus Anthropic, roept bedrijven op een rem te zetten op de ontwikkeling van AI-modellen. Volgens hem gaat de ontwikkeling van kunstmatige intelligentie op dit moment te snel om de risico’s te kunnen beheersen.
In een essay van 3800 woorden zegt Amodei dat hij er „de afgelopen maanden” van overtuigd is dat het „adequaat aanpakken van de risico’s nog meer voorzichtigheid vereist”. „We moeten het tempo waarin we de capaciteiten verbeteren, vertragen. De vooruitgang zal nog steeds snel lijken, en we moeten verstandig omgaan met de tijd die we winnen.”
Sam Altman en Elon Musk, de topmannen van OpenAI en xAI, twee andere grote AI-bedrijven, schaarden zich op X achter de oproep van Amodei.
De verklaring volgt op een reeks gebeurtenissen die de zorgen over de AI-wedloop deden groeien. Zo slaagden modellen van OpenAI erin zelfstandig uit hun testomgeving te breken en de controle over de server van AI-platform Hugging Face over te nemen. Bij deze hack, die in juli plaatsvond, vielen de zogeheten AI-agents als collectief ook OpenAI aan.
OpenAI bevestigde vrijdag dat AI-agents in mei eveneens een cyberaanval uitvoerden op RubyGems, een online dienst voor programmeurs.
