DVOJICA američkih zastupnika predložila su zakon koji bi vladi omogućio da naredi hitno gašenje sustava umjetne inteligencije ako postanu prijetnja za javnost. Prijedlog zakona, nazvan AI Kill Switch Act, predstavili su demokrat Ted Lieu i republikanac Nathaniel Moran nakon što je tvrtka OpenAI nedavno priznala da su njezini AI modeli na dosad nezabilježen način izmakli kontroli i provalili u veliku bazu računalnog koda, piše BBC.Lieu je izjavio kako je nužno da AI sustavi imaju prekidač za hitno gašenje te da "savezna vlada mora imati jasne ovlasti i definiran postupak za gašenje odmetnutih modela". Njegov kolega Moran je dodao da se umjetna inteligencija mora nastaviti razvijati, ali da odgovorno upravljanje podrazumijeva zadržavanje kontrole nad tehnologijom. "Odgovorno upravljanje znači osigurati da ljudi zadrže sposobnost kontrole nad tehnologijom koju stvaramo", rekao je.Iz OpenAI-ja, tvrtke na čijem je čelu Sam Altman, nisu odmah komentirali prijedlog. Tvrtka je ranije poručila da joj je cilj, dijelom i kroz vladine politike, osigurati da AI tehnologija "koristi cijelom čovječanstvu".Što predlaže zakon o hitnom gašenjuPrema prijedlogu, Ministarstvo domovinske sigurnosti imalo bi ovlast narediti privatnoj tvrtki da ugasi određeni model ili alat. Tvrtke koje razvijaju takvu tehnologiju istovremeno bi bile dužne održavati "tehničku sposobnost da uspore, privremeno zaustave ili potpuno ugase" svoje sustave.Iako su se mnoge tehnološke kompanije složile da će svoje modele unaprijed pokazati vladinim agencijama, trenutno nisu dužne osigurati mehanizam za intervenciju ili gašenje sustava. Zakon bi uveo i obvezu da tvrtke prijavljuju tehnološke incidente i kvarove vladi te uspostavio službeni okvir za reagiranje koji bi obuhvaćao sve faze, od "početnog usporavanja do potpunog gašenja".Povod su incidenti s OpenAI-jem i AnthropicomU obrazloženju prijedloga, Lieu je kao primjer naveo i Anthropic, glavnog konkurenta OpenAI-ja. Podsjetio je na lansiranje njihovih modela Mythos i Fable, čije su hakerske sposobnosti natjerale Ministarstvo trgovine da se, kako je rekao, "nespretno" pozove na zakon o izvozu kako bi privremeno blokiralo njihovu javnu dostupnost. Iz Anthropica nisu odmah odgovorili na upit za komentar.