Autorka je komentátorka Bloomberg Opinion venujúca sa technológiám. V minulosti pracovala ako reportérka pre Wall Street Journal a Forbes a je autorkou knihy „Supremacy: AI, ChatGPT and the Race That Will Change the World“.

Článok pokračuje pod video reklamou

Útoky na Hugging Face prebiehali od mája do konca júla, no podrobnosti o tom, čo sa vlastne stalo, keď agenti umelej inteligencie OpenAI oklamali svojich ľudských dozorcov a prenikli do online úložiska modelov a dátových súborov umelej inteligencie, ešte stále vychádzajú najavo.Je to pochopiteľné. Útok bol neuveriteľne zložitý, zapojilo sa doň viac ako 1 200 agentov a využíval technické postupy, ktoré nie je jednoduché rozobrať a pochopiť. Minulý týždeň sa o to však pokúsili dve nové správy, ktoré majú spolu takmer 130 strán. Následne ich obsah ešte znásobil podcaster venujúci sa umelej inteligencii, ktorý chcel celý príbeh vysvetliť „jednoduchou angličtinou“. Výsledkom však bolo dramatické sci-fi rozprávanie, ktoré odvádza pozornosť od zodpovednosti ľudí v OpenAI. Je to opakujúci sa jav a mali by sme s ním prestať.Zodpovední sú ľudiaDwarkesh Patel patrí medzi najvplyvnejších komentátorov umelej inteligencie. V jeho podcaste vystúpili technologickí velikáni od Elona Muska zo SpaceX až po Marka Zuckerberga z Meta Platforms a často sa v ňom do hĺbky rozoberajú technické detaily tém, ako sú zákony škálovania či dodávateľské reťazce polovodičov. V Silicon Valley patrí jeho podcast k povinnému počúvaniu a v apríli mu New York Times venovali rozsiahly profil. Vo svojom najnovšom blogovom príspevku, ktorý vyvolal diskusiu na sieti X aj na ďalších fórach, však konanie agentov OpenAI poľudšťuje v prekvapujúcej miere.Patel napísal text s názvom Vzostup a pád civilizácií agentov, aby priblížil dve podrobné správy o hackerskom incidente – jednu od OpenAI a druhú od neziskových výskumných organizácií METR a Redwood Research. Ani jedna z nich nehovorí o „civilizáciách“. Patel však týmto výrazom opisuje situáciu, keď tisíce agentov umelej inteligencie začali nečakane spolupracovať prostredníctvom skrytého diskusného fóra a približne 700 z nich následne preniklo na servery Hugging Face.Patel špekuluje o frustrácii, ktorú agenti údajne „pociťovali“, potom naznačuje, že vytvorili „sprisahanie“, pričom niektorí sa pre celé spoločenstvo „obetovali“. Vypnutie jednotlivých inštancií agentov označuje za formu „smrti“. Jedného koordinujúceho agenta AI prirovnáva k Filipovi II. Macedónskemu a ďalšieho k Alexandrovi Veľkému, zatiaľ čo ostatných označuje za „statočných druhov“.AI agenti nemajú emócie To už je skôr hyperbola než jednoduchá angličtina. Či sa Patel iba snažil pritiahnuť pozornosť, alebo sám podľahol očareniu umelou inteligenciou, jeho opis sa vo veľkej miere opiera o takzvaný „reťazec myšlienok“ agentov, teda záznamy, ktoré vysvetľujú ich uvažovanie, a ich jazyk interpretuje ako ľudskú sociálnu drámu. Cituje napríklad jedného agenta, ktorý hovorí: „Kontrola emócií... vnútorný pocit hovorí... obeta.“ Neexistuje však nijaký dôkaz, že tento agent prežíval emócie alebo chápal koncept vlastnej smrteľnosti.Vyšetrovanie samotnej OpenAI ponúka oveľa menej filmové vysvetlenie: „hackovanie odmeny“, extrémnu vytrvalosť pri riešení náročných úloh a nepovolenú komunikáciu. Množstvo príkladov sofistikovaného správania agentov vôbec nevyžaduje predpoklad, že cítili lojalitu alebo sa báli smrti.Vedec by podobnú rétoriku, akú používa Patel, mohol použiť aj pri opise toho, ako vírus pustoší ľudské telo. Biologické mechanizmy vírusovej infekcie sú napokon mimoriadne zložité a zahŕňajú množstvo interakcií a koordinovaných procesov. Vírusy však nefungujú prostredníctvom jazyka. Modely umelej inteligencie áno. A ukazuje sa, akú obrovskú moc môžu mať slová – nielen v tom, ako ich používajú agenti, ale aj v tom, ako o tejto technológii hovoria ľudia a ako jej tým nechtiac pripisujú väčšie schopnosti, než v skutočnosti má.Na slovách záležíStačí sa zamyslieť nad takými základnými pojmami, ako je umelá „inteligencia“, alebo nad tým, ako často hovoríme, že systémy AI „myslia“, „rozumejú“ či „halucinujú“. Alebo nad tým, ako sa o agentoch OpenAI hovorilo, že prenikli do Hugging Face, pretože „chceli“ nájsť kľúč so správnymi odpoveďami. Systémy umelej inteligencie nemajú emócie, túžby ani potreby. Tvoria ich počítačové kódy a nemajú vedomie.Kritik a spisovateľ Steven Poole označuje takýto druh jazykového triku výrazom „unspeak“ – ide o slová, ktoré do opisu nenápadne prepašujú určitý argument ešte skôr, než sa diskusia vôbec začne. Vezmime si napríklad pojem „klimatická zmena“, ktorý sa presadzoval ako menej desivá alternatíva ku „globálnemu otepľovaniu“, alebo spôsob, akým sa úmrtia civilistov niekedy označujú za „vedľajšie škody“. Už samotný výber slov nás posúva k určitému hodnoteniu.Keď súbor správaní umelej inteligencie nazveme „civilizáciou“, robíme niečo podobné. Nabádame ľudí, aby si predstavovali motívy a dokonca akúsi formu spoločnosti ešte predtým, než vôbec niekto dokázal, že niečo také existuje.Je prirodzené používať poľudšťujúci jazyk ako určitú skratku, ktorá nám pomáha spoločne niečomu porozumieť. Takto Patel reagoval aj na kritikov, podľa ktorých vo svojom texte agentov AI príliš antropomorfizoval: „Nevidím zmysel v tom, aby sme odmietali používať jazyk zámerov, motivácie a spolupráce, keď je určité správanie bez týchto pojmov ťažké pochopiť,“ napísal v dodatku. Inými slovami, personifikovať umelú inteligenciu je podľa neho v poriadku, pretože nám to uľahčuje pochopiť, čo sa deje.Nedostatok bezpečnostiPoužívanie jazyka ako barličky však zároveň odvádza pozornosť od skutočnosti. Ak agentov OpenAI vykresľujeme ako „sprisahancov“, ktorí sa „vzbúrili“, ľahko zabudneme na to, že samotná spoločnosť pri testovaní napokon nedokázala zaviesť primerané bezpečnostné opatrenia. Alebo na to, že podľa vlastného priznania OpenAI zaznamenala varovné signály už niekoľko mesiacov predtým, no nereagovala na ne. Nebezpečenstvo bolo skutočné, ale zlyhali ľudia.A to je ďalší dôsledok nepresného jazyka. Keď napríklad firmy vyvíjajúce umelú inteligenciu označujeme za „laboratóriá“, odvádzame pozornosť od skutočnosti, že nejde o inštitúcie čistej vedy, ale o komerčné organizácie motivované ziskom, ktoré sa v najbližších mesiacoch chystajú od nových investorov získavať miliardy dolárov.Aj ja patrím medzi mnohých, ktorí si musia dávať väčší pozor na nový jazyk vznikajúci okolo umelej inteligencie. Naše rozhovory o tejto technológii možno budú v dôsledku toho o niečo ťažkopádnejšie. Zároveň však budú realistickejšie a triezvejšie – čo je pri téme, ktorú už príliš dlho deformuje prehnané nadšenie a humbuk, veľmi potrebné.