Dario Amodei, grundare och vd på Anthropic.AI-jätten Anthropic uppmanar till en tillfällig, global paus i utvecklingen. Detta efter ny intern forskning som visar att AI-systemen är nära att kunna förbättra sig själva.Det går som bekant fort i utvecklingen av AI. Det vi för bara ett par år sedan såg som en utopi är i vissa fall redan vardag idag.
Men det kan ju gå för fort. Det menar en av de allra största AI-jättarna, Anthropic som värderas till flera tusen miljarder. I en bloggpost på bolagets hemsida uppmanar nu bolaget till en tillfällig paus i utvecklingen.
“Vi tror att det vore bra för världen att ha möjligheten att sakta ner eller tillfälligt pausa utvecklingen av spets-AI för att ge samhällstrukturer och säkerhetsforskning en chans att hålla jämna steg med teknikens framsteg”, står det i inlägget som skrivits av Marina Favaro och Jack Clark.
De föreslår ett globalt avtal kring hur en eventuell inbromsning skulle kunna gå till, och en mekanism för att verifiera att konkurrenterna respekterar det.
Bakgrunden till varningen är att intern forskning på Anthropic visar att AI-systemen närmar sig den punkten när den kommer att kunna förbättra sig själv.
