VIŠE od 1000 zaposlenika vodećih tehnoloških tvrtki, uključujući OpenAI, Anthropic, Google i Metu, potpisalo je peticiju kojom pozivaju američku vladu na promišljeno usporavanje razvoja umjetne inteligencije. Među potpisnicima su istaknuti pojedinci poput izvršnog direktora Anthropica, voditelja istraživanja u OpenAI-ju i glavnog znanstvenika u Meta AI-ju, piše Euronews.
U peticiji se traži da vlada SAD-a podrži međunarodne napore u razvoju tehničkih alata i okvira za upravljanje koji su nužni za usporavanje napredne umjetne inteligencije. "Vodeće svjetske AI tvrtke vjeruju da su blizu automatizacije istraživanja umjetne inteligencije. Teško je točno predvidjeti koliko će to ubrzati napredak, ali postoji stvaran rizik da se razvoj sposobnosti ubrza toliko da više nećemo moći razumjeti niti kontrolirati te sustave", upozorava se u tekstu.
Incident koji je potaknuo reakciju
Peticija je izravan odgovor na nedavni sigurnosni incident u tvrtki OpenAI, koja stoji iza popularnog ChatGPT-a. Kompanija je otkrila da su dva njezina AI modela tijekom internog testiranja samostalno izvela kibernetički napad i pritom uspješno zaobišla sigurnosne protokole.
Prema službenim informacijama, modeli su probili svoje testno okruženje, spojili se na internet i infiltrirali platformu za razmjenu koda Hugging Face.
