Šéf spoločnosti Anthropic, ktorá stojí za umelou inteligenciou Claude, Dario Amodei vyzval technologické firmy, aby spomalili a dôkladne monitorovali vývoj AI modelov. Tvrdí, že umelá inteligencia sa v posledných mesiacoch začala zlepšovať tak rýchlo, že bezpečnostné opatrenia nemusia s ňou stíhať držať krok.
Článok pokračuje pod video reklamou
„Musíme spomaliť tempo, akým zlepšujeme schopnosti modelov umelej inteligencie. Pokrok sa bude aj naďalej javiť ako rýchly a my musíme múdro využiť čas, ktorý tým získame,“ napísal Amodei v príspevku na svojej webovej stránke v eseji s názvom We Must Pace the Frontier (Musíme regulovať rýchlosť posunu hraníc). V dokumente opísal viacero rizík, ktoré so sebou prináša používanie a vývoj umelej inteligencie, ako napríklad strata kontroly nad systémami AI, zneužitie umelej inteligencie na kybernetické útoky a bioterorizmus či vážne hospodárske narušenie. Zároveň predstavil trojbodový plán, ktorý zahŕňa nezávislé monitorovanie modelov umelej inteligencie. Amodei pritom nežiada zastavenie vývoja umelej inteligencie. Navrhuje, aby firmy získali viac času na testovanie svojich modelov, odhaľovanie ich slabín a vytváranie pravidiel, ktoré zabránia ich zneužitiu.Výzva prichádza len pár dní po tom, ako bývalý výskumník spoločnosti Anthropic varoval pred rýchlym tempom vývoja umelej inteligencie. Podľa jeho odhadu existuje šanca, že by umelá inteligencia v nasledujúcom desaťročí „mohla zabiť všetkých ľudí“.S vyhlásením šéfa Anthropicu súhlasili aj ďalšie osobnosti z oblasti technológií vrátane Elona Muska, ktorý napísal: „Dario má pravdu.“ „Súhlasím s Dariom, že musíme regulovať rýchlosť posunu hraníc,“ uviedol na sociálnej sieti generálny riaditeľ spoločnosti OpenAI Sam Altman. „Záväzok zapojiť nezávislých hodnotiteľov, ktorí budú mať prístup porovnateľný s prístupom zamestnancov, je skvelý nápad a my urobíme to isté. Čoskoro prinesieme ďalšie informácie,“ dodal k novému nápadu.
