Amodei maakt zich zorgen over het feit dat kunstmatige intelligentie zich sinds deze zomer "drastisch sneller ontwikkelt". "Net als veel voorgaande technologieën, brengt AI risico's met zich mee", schrijft Amodei in een essay.
"Omdat AI zo'n ingrijpende technologie is, kunnen de gevolgen ernstig zijn. Het gaat onder meer om het risico op verlies van controle over AI-systemen, misbruik van AI voor cyberaanvallen en bioterrorisme, en ernstige economische ontwrichting." Daarom stelt Amodei dat de ontwikkeling moet worden vertraagd.
Amodei vindt dat er meer aandacht moet komen voor de veiligheid van AI. Hij pleit ervoor dat ontwikkelaars meer investeren in het testen van modellen, het beter begrijpen van hoe ze beslissingen nemen en het waarborgen dat AI-systemen zich blijven gedragen volgens menselijke intenties en veiligheidsregels.
Daarnaast wil de Anthropic-topman dat onafhankelijke experts meekijken bij de ontwikkeling van de krachtigste AI-modellen. Ook roept hij op tot de invoering van gezamenlijke veiligheidsnormen voor AI-bedrijven en internationale afspraken om de krachtigste systemen gecontroleerd te laten ontwikkelen.
Ook OpenAI-topman Sam Altman riep deze week op tot het afremmen van de ontwikkeling van geavanceerde kunstmatige intelligentie. Daarover lees je meer in onderstaand artikel.
