ŠEF ANTHROPICA Dario Amodei pozvao je na usporavanje razvoja najnaprednijih sustava umjetne inteligencije, upozoravajući da AI posljednjih mjeseci napreduje mnogo brže ponajprije zato što sve više sudjeluje u stvaranju sljedeće generacije AI-ja.
Novo upozorenje
"Moramo usporiti tempo kojim poboljšavamo sposobnosti AI modela", napisao je Amodei u novom eseju. Kaže da se ne zalaže za zaustavljanje razvoja, nego za dovoljno usporavanje kako bi sigurnosne mjere, istraživanja i neovisne provjere mogle držati korak s novim sposobnostima modela.
Amodei navodi da ga je na promjenu stava natjeralo ono što vidi od ovog ljeta. AI se, kaže, počeo ubrzano poboljšavati zahvaljujući vlastitoj sposobnosti da pomaže u izradi novih AI sustava. Taj proces naziva se rekurzivno samounaprjeđivanje.
"Prepušteno samo sebi, to bi moglo nadmašiti našu sposobnost da razumijemo i kontroliramo te sustave", upozorio je. Proces se, prema njegovim riječima, već počeo događati u cijeloj industriji, uključujući Anthropic.
