AI TVRTKA Anthropic priopćila je da je ove godine zaustavila nekoliko potencijalnih planova znanstvenika koji su upotrebljavali njezine vodeće modele umjetne inteligencije za provođenje istraživanja koja su mogla pomoći u razvoju biološkog oružja.
U izvješću u kojem se opisuju zlouporabe modela umjetne inteligencije, Anthropic je naveo da nije mogao utvrditi je li istraživanje imalo legitimnu ili zlonamjernu svrhu. Razlog tomu leži u činjenici da valjana biološka istraživanja, odnosno ona koja mogu dovesti do velikih otkrića poput cjepiva, ujedno mogu pomoći i u inženjeringu opasnih patogena.
Suočen s takvom nesigurnošću, Anthropic je odlučio djelovati uz oprez jer bi posljedice propuštanja zlonamjernih aktivnosti mogle biti iznimno teške.
Jacob Klein, voditelj odjela za analizu prijetnji u Anthropicu, objasnio je u intervjuu kako se ne radi o situaciji u kojoj netko na stripovski način izjavljuje da želi napraviti biološko oružje kako bi sve pobio, već je riječ o izuzetno nijansiranoj i složenoj situaciji. Potencijal naprednih modela umjetne inteligencije da olakšaju razvoj poznatih ili potpuno novih bioloških patogena među najvećim je zabrinutostima stručnjaka. Tehnologija se pritom razvija toliko brzo da čak i njezini vodeći tvorci sumnjaju u to hoće li je ljudi moći u potpunosti kontrolirati.
