Lemondott az amerikai Anthropic mesterségesintelligencia-fejlesztő vállalat egyik kutatója, a brit Jacob Coxon, miután szerinte a mesterséges intelligencia vezető fejlesztői felelőtlenül járnak el, és a technológia akár az emberiség pusztulásához is vezethet.
Coxon az X-en közzétett bejegyzésében úgy fogalmazott, hogy „akik a mesterséges intelligenciát fejlesztik, úgy vélik, az megölhet minket az évtized végéig. Ez nem egy marketingfogás. Sok vezető és kutató a sajtóban óvatosan fogalmaz, hogy észszerűnek tűnjenek – de ugyanezek az emberek szűk körben már a félelmeikről beszélnek. Egyetlen más emberi tevékenység sem jelent ilyen mértékű veszélyt”.
Coxon a Wall Street Journalnak azt mondta, a legagresszívebb forgatókönyvek szerint már a jövő év végére kikerülhet a folyamat az irányítás alól.
Evan Hubinger, az Anthropic MI-biztonsággal foglalkozó kutatója megerősítette Coxon aggodalmait. Az ő becslése szerint több mint tíz százalék az esély arra, hogy a mesterséges intelligencia a következő évtizedben kiirtja az emberiséget. Az MI biztonságával kapcsolatban az OpenAI kutatási vezetője, Jakub Pachocki is „rendkívüli óvatosságot” sürgetett. Szerinte a rendszerek fejlesztése során gyakran maguk a kutatók is meglepődnek a nagy léptékű tanítás eredményein, ezért minél inkább meghaladják a gépek az emberi képességeket, annál nehezebb lesz megérteni és ellenőrizni a működésüket.
