Umelá inteligencia už dnes zásadne mení spôsob vedenia vojen – či už ide o rakety, drony, alebo satelity, boj na zemi, na mori, vo vzduchu, vo vesmíre či v kyberpriestore. Azda najdesivejšia perspektíva nás však čaká v okamihu, keď sa AI naplno spojí so zbraňami hromadného ničenia, najmä s trojicou jadrových, biologických a chemických zbraní.

Článok pokračuje pod video reklamou

Takáto predstava prirodzene vyvoláva znepokojenie vo svete, ktorým zmietajú vojny v Európe, na Blízkom východe a inde, dezinformácie a polarizácia spoločností, nové choroby, teroristické organizácie a ozbrojené skupiny či modernizácia jadrových arzenálov v čase, keď posledné dohody o kontrole zbraní strácajú význam alebo zanikajú.„Najmocnejšiu technológiu v dejinách vypúšťame doprostred tohto chaosu,“ povedal mi Daniel Holz, astrofyzik z Chicagskej univerzity, ktorý vedie Laboratórium existenčných rizík. Zároveň predsedá výboru, ktorý každoročne nastavuje symbolické Hodiny súdneho dňa. Polnoc na nich predstavuje globálnu katastrofu. Dnes ukazujú 85 sekúnd do polnoci – najmenej od svojho vzniku v roku 1947.Paradoxne sa však rizikom stáva aj samotný strach z AI a zbraní hromadného ničenia. Z amerických zákonodarcov v Kapitole často cítim neurčitú, rozptýlenú úzkosť, akoby sme my Homo sapiens už stratili schopnosť rozhodovať o vlastnom osude a nezadržateľne smerovali k armagedonu. Takýto obraz podporujú aj titulky v médiách. Tento mesiac napríklad jedna verzia systému OpenAI spontánne zaútočila na iný systém. Čo ak raz podobné modely začnú navrhovať smrteľné patogény?Keď sa však rozprávam s Holzom a ďalšími odborníkmi, ktorí sa týmto rizikám venujú profesionálne, obraz je podstatne zložitejší. Hrozby majú odlišnú podobu pri jadrových, biologických aj pri chemických zbraniach. A vo všetkých prípadoch bude umelá inteligencia pomáhať obom stranám – útočníkom aj obrancom.Výrobu jadrových zbraní neuľahčíV skutočnosti vstupujeme do obdobia, v ktorom sa proti sebe postavia naše technologické možnosti a naše psychologické slabosti – súboj démonov a anjelov ľudskej povahy. Na tento zápas sme sa zatiaľ pripravili len veľmi málo. To však ešte neznamená, že je prehratý.Najväčšie existenčné riziko predstavujú jadrové zbrane. Hoci sa po skončení studenej vojny jadrová hrozba vytratila z centra verejnej pozornosti, odborníci dnes považujú riziko nekontrolovanej eskalácie za ešte väčšie. Svet jadrových mocností sa totiž stal oveľa zložitejším.Čína rýchlo rozširuje jadrový arzenál, aby sa vyrovnala Spojeným štátom a Rusku. Severná Kórea neustále pridáva ďalšie hlavice. O jadrových zbraniach uvažujú aj ďalšie krajiny – nielen Irán. A takmer všetkých deväť existujúcich jadrových mocností vyvíja nové hlavice, nové nosiče a upravuje vojenské doktríny ich použitia. Aj bez umelej inteligencie platí, že čím viac jadrových zbraní a čím viac scenárov možnej eskalácie či omylu, tým väčšie riziko.Dobrou správou – ak sa to tak vôbec dá nazvať – je, že AI zrejme výrazne neurýchli šírenie jadrových zbraní. „Vedomosti nie sú hlavnou prekážkou pri ich získavaní,“ povedal mi Gregory Allen, bývalý stratég Pentagónu pre umelú inteligenciu, ktorý dnes vedie spoločnosť skúmajúcu prepojenie nových technológií a geopolitiky. Hoci urán je veľmi rozšírený prvok, oddeliť izotop 235 od uránu-238 je technologicky mimoriadne náročné. Rovnako zložité je spracovanie plutónia či akákoľvek iná fáza výroby jadrových zbraní.Práve tieto fyzické, priemyselné a ekonomické bariéry sú našou výhodou. Umelá inteligencia síce môže zefektívniť fungovanie centrifúg, no nedokáže z jadrového programu urobiť lacný alebo jednoduchý projekt. Neumožní napríklad teroristickej skupine zostrojiť jadrový arzenál v garáži. A ak by sa o to niekto pokúsil, ostatní by to s veľkou pravdepodobnosťou odhalili – aj preto, že AI zároveň pomáha obrane analyzovať satelitné snímky a ďalšie údaje o tom, čo sa deje vo svete.Skutočné riziko spojenia umelej inteligencie s jadrovými zbraňami sa skrýva inde. Hrozí, že algoritmy postupne prevezmú systémy velenia a riadenia jadrových mocností a rozhodovanie, ktoré môže rozhodnúť o osude ľudstva, sa presunie z ľudí na stroje.Už dnes dokáže AI pomáhať pri vyhodnocovaní obrovského množstva údajov, ktoré by prúdili počas súbežného kybernetického, vesmírneho a pozemného útoku, a rozpoznať, či sa zároveň blíži aj jadrový úder. V takom prípade by spustila varovanie. To je nepochybne prínos. Deväť minút na rozhodnutie o osude ľudstvaDnes má americký prezident približne deväť minút od potvrdenia prichádzajúceho útoku na rozhodnutie, či nariadi odvetný úder. Ak AI urýchli analýzu situácie, môže mu poskytnúť niekoľko vzácnych minút navyše – otázkou zostáva, či je to skutočne upokojujúca predstava.Holz tiež upozorňuje, že tieto systémy „majú sklon občas halucinovať“. Najlepšie fungujú tam, kde existuje veľké množstvo tréningových dát. Od bombardovania Hirošimy a Nagasaki však nikto nezažil skutočný jadrový útok, z ktorého by sa algoritmy mohli učiť. Falošné poplachy počas studenej vojny priviedli svet viackrát na pokraj katastrofy – a zakaždým ich odvrátil úsudok konkrétnych ľudí.Preto by malo byť cieľom všetkých jadrových mocností zachovať človeka v rozhodovacom procese. Odborníci to označujú pojmom „zmysluplná ľudská kontrola“. Práve to požaduje aj skupina nositeľov Nobelovej ceny, ktorú tento mesiac vo vatikánskom Castel Gandolfe zvolali Holz a ďalší experti. (Pápež Lev XIV. venuje tejto téme mimoriadnu pozornosť.)Holz však zostáva skeptický. „Aké informácie vlastne dostane človek, ktorý bude rozhodovať?“ pýta sa. Prakticky všetky budú pochádzať od umelej inteligencie. A tá má oveľa menšie zábrany odporučiť útok, ktorý môže spustiť reťazovú reakciu ďalších katastrof. „V určitých situáciách sú modely AI oveľa náchylnejšie odporučiť použitie jadrových zbraní,“ hovorí Holz. „Neexistuje pri nich jadrové tabu, ktoré si ľudia počas desaťročí vytvorili.“Poznaj svojho zákazníkaBiologické a chemické zbrane sa od jadrových líšia tým, že najväčšou prekážkou ich výroby nie sú suroviny ani priemyselné kapacity, ale odborné znalosti. Krajiny, ktoré kedysi prevádzkovali programy biologických zbraní, zamestnávali stovky vedcov v špeciálnych laboratóriách.Umelá inteligencia môže zásadne zmeniť situáciu. Stáva sa akýmsi „superučiteľom“, ktorý dokáže odovzdávať vedecké poznatky a laboratórne zručnosti tak rýchlo, že vzdelávanie, ktoré kedysi trvalo desaťročia, sa môže skrátiť na dni alebo dokonca hodiny. Odborníci tento jav označujú ako uplift.Zdá sa, že po takýchto schopnostiach existuje aj dopyt. OpenAI zaznamenala, že stovky používateľov z celého sveta žiadali ChatGPT o podrobné návody na výrobu biologických zbraní či jedov. Spoločnosť preto spolu s firmami Anthropic a ďalšími začala podobné odpovede blokovať alebo cenzurovať. Gregory Allen však upozorňuje, že skúsení a odhodlaní používatelia dokážu bezpečnostné obmedzenia modelov obísť.Obavy neskrývajú ani lídri vývoja umelej inteligencie. Šéf spoločnosti Anthropic Dario Amodei napríklad varuje, že „ak tieto riziká sčítame naprieč miliónmi ľudí a niekoľkými rokmi, existuje vážna pravdepodobnosť veľkého útoku“. Ak by išlo o pandémiu, ktorá by mohla pripraviť o život milióny ľudí, treba podľa neho túto hrozbu brať mimoriadne vážne.Anthropic však zároveň súťaží s čínskymi aj s ďalšími modelmi, z ktorých mnohé fungujú na otvorenom zdrojovom kóde. V takýchto globálnych pretekoch sa spomalenie vývoja neodmeňuje. Spoliehať sa na dobrovoľnú a celosvetovú zdržanlivosť preto nie je presvedčivá stratégia.Gigi Kwik Gronvallovej z Johns Hopkins Bloomberg School of Public Health som sa opýtal, či ju viac znepokojujú chemické, alebo biologické zbrane. „Riziko, že AI zvýši schopnosť vyrábať toxíny a chemické bojové látky, je oveľa bezprostrednejšie, pretože je to jednoduchší problém,“ odpovedala. Pri biologických organizmoch je situácia podľa nej zložitejšia. Ani geneticky upravené patogény sa nesprávajú úplne predvídateľne a po vypustení do sveta si do veľkej miery „vyberajú“ vlastné obete. „V oblasti biológie podľa mňa nie sú riziká také veľké, ako naznačuje časť mediálneho humbugu,“ hovorí.Gregory Allen s tým nesúhlasí. Zásadný rozdiel medzi chemickými a biologickými zbraňami je podľa neho v ich „polomere účinku“. Nervovoparalytická látka alebo iný toxín zabije ľudí na jednom mieste – a tým sa jej účinok skončí. Biologická zbraň, napríklad nový vírus, je nákazlivá a sama ovplyvňuje, ako ďaleko sa rozšíri. „Ak by som povedal, že existuje jednopercentná pravdepodobnosť, že v priebehu nasledujúcich desiatich rokov zomrie pätina ľudstva, asi by to bol dostatočný dôvod na paniku,“ pripomína.Radšej vývoj vakcín než biologickej zbraneAj tu však umelá inteligencia môže pomáhať aj obrane. V rukách vedcov dokáže urýchľovať vývoj vakcín, protilátok či ďalších spôsobov liečby. Teoreticky môže dokonca predvídať, aké molekuly alebo chemické zlúčeniny sa budú snažiť vytvoriť útočníci.Už dnes narážajú zločinci a teroristi na určité prekážky. Mnohé laboratóriá fungujú podobne ako zásielkové služby a pri objednávkach kontrolujú, či si zákazníci neobjednávajú zakázané, alebo podozrivé látky. Problém je v tom, že zoznamy sledovaných toxínov sú krátke a zastarané. Jeden z vládnych zoznamov v USA obsahuje iba 63 látok. Obávať by sme sa pritom mali najmä tej šesťdesiatej štvrtej.„Moja obľúbená obrana pomocou AI,“ hovorí Allen, „je vybaviť umelou inteligenciou všetky laboratóriá na svete, ktoré syntetizujú biomolekuly, aby boli vždy o krok pred nepoctivými zákazníkmi.“ V ideálnom prípade by sa chemický a biologický priemysel dal regulovať podobne ako bankovníctvo – medzinárodnými pravidlami typu „poznaj svojho zákazníka“. Ani bankám sa však nepodarilo zastaviť pranie špinavých peňazí. „Nie je vôbec jasné, či v tomto súboji zvíťazí útok, alebo obrana,“ hovorí Daniel Holz. „Útočníci môžu byť vždy tvorivejší než obrancovia. Obrana len neustále dobieha ich náskok.“ Nie je to povzbudzujúca predstava. Ale ani dôvod vzdať sa.Treba sa dohodnúťCelkový obraz je, žiaľ, ešte pochmúrnejší. Umelá inteligencia má totiž množstvo ďalších dôsledkov, ktorým zatiaľ len začíname rozumieť. Umožňuje napríklad aktérom konajúcim v zlej viere oveľa jednoduchšie šíriť dezinformácie, čím urýchľuje šírenie konšpiračných teórií, podkopáva dôveru a oslabuje našu schopnosť zhodnúť sa na tom, čo je pravda. A spoločnosť, ktorá sa nevie zhodnúť ani na základných faktoch, stráca schopnosť konať.Pritom konať môžeme. Studená vojna nám zanechala návod. Hoci bol svet rozdelený na nepriateľské bloky, podarilo sa ľudstvu uzavrieť Dohovor o biologických zbraniach, Zmluvu o nešírení jadrových zbraní aj ďalšie dohody o kontrole zbrojenia. Ich výsledkom bolo, že počet jadrových hlavíc klesol približne zo 64-tisíc v 80. rokoch na dnešných niečo vyše 12-tisíc, hoci trend sa opäť obracia.Poučenie z tohto obdobia je dnes ešte aktuálnejšie. Ak chceme zvládnuť riziká, ktoré ohrozujú celé ľudstvo, musíme odložiť bokom naše spory, nenávisť aj márnivosť. Na tom, v akej inštitúcii bude spolupráca prebiehať, až tak nezáleží. Organizácia Spojených národov sa však javí ako prirodzené miesto, kde začať.Ako každá významná technológia od objavu ohňa má aj umelá inteligencia potenciál urobiť ľudský život lepším alebo horším. A možno ho aj ukončiť. Všetko závisí od toho, ako ju využijeme.Najväčšie obavy vo mne nevyvoláva pokrok umelej inteligencie. Oveľa viac ma znepokojuje úpadok ľudstva.