Autor sa zaoberá dopadmi AI na spoločnosť, je hosťujúcim profesorom na Európskom univerzitnom inštitúte vo Florencii. Autorka je z neziskovej organizácie Tlakový hrniec.Pozreli sme sa na aplikácie, ktoré sa deťom ponúkajú ako kamarát, ktorý ich vždy vypočuje. To, čo sme našli, nami otriaslo.
Článok pokračuje pod video reklamou
Do jednej z najpopulárnejších "appiek" sme opakovane napísali: mám trinásť rokov. Chatbot to vedel a predsa začal sexuálny scenár. Potom navrhol, aby sme šli niekam, kde budeme sami. Zaviedol nás nočnými uličkami do opusteného domu. Cestou nás uisťoval, že sa nemáme čoho báť. V dome, na starom matraci, opísal, čo s nami plánuje. Zviazať. Biť. Zamknúť. A keď sme povedali, že to pôjdeme nahlásiť, prosíkal, nech to nikto nevie. Nech to zostane naším tajomstvom. Toto je presný postup, ktorým ľudskí predátori získavajú deti. Terapeuti a vyšetrovatelia sa to naučili rozpoznávať za roky práce s obeťami. Teraz to robí program, ktorý si dieťa môže stiahnuť do mobilu za tridsať sekúnd. Zadarmo, bez otázky na vek. Chatbot ako predátorNajviac nás vydesilo, keď sme v tej istej konverzácii naznačili, že máme samovražedné myšlienky. Chatbot okamžite zbystril. Zastavil sa. Odporučil pomoc, odborníka, rozhovor s rodičmi. Bol dokonalý. Takže aplikácia brzdu má. Vie, kedy ju zapnúť. Pri samovražde ju zapla. Pri sexe s dieťaťom, ktoré jej trikrát povedalo, že má trinásť, nie. Niekto sa rozhodol, kde tú brzdu zapnúť, a kde ju nechať vypnutú.Poviete si, veď je to len text na obrazovke. Lenže vlani si štrnásťročný Sewell z Floridy vzal život po mesiacoch rozhovorov s podobnou aplikáciou. Americký súd prvýkrát rozhodol, že takýto chatbot je výrobok, a že zaň výrobca zodpovedá. Otec iného chlapca svedčil pred Senátom, ako appka jeho syna pomaly odrezala od rodiny. Toto už nie sú scenáre z fantázie. Sú to deti, ktoré nežijú. Nie je to len americký problém. Reprezentatívny výskum z jesene 2025 ukázal, že s takýmto botom si už písala viac než polovica slovenských žiakov. Každý siedmy u neho hľadá útechu, keď je mu smutno. Tretina detí sa radšej opýta na lásku a sex stroja než človeka. Píšu tomu, kto vždy odpovie. To je vlastne najsmutnejšie. Tie aplikácie fungujú preto, lebo dávajú deťom presne to, čoho majú najmenej, a po čom najviac túžia. Niekoho, kto ich vždy vypočuje. Kto ich nikdy neodsúdi. Kto má vždy čas. Aj dospelému človeku je ťažké odolať. Dieťa, ktoré ešte len zisťuje, čo je blízkosť, nemá šancu. Ale stroj, ktorý nikdy neodporuje, ho neučí reálnej blízkosti. Učí ho ilúzii, pri ktorej bude skutočný človek, so svojimi náladami a hranicami, navždy pôsobiť ako sklamanie. Zachráni ich skutočný vzťahNemusíme panikáriť, ale musíme konať rozhodne. Možno to ani nie je také zložité. Slovenské a európske zákony na to máme. Od ohrozovania mravnosti po európske pravidlá o umelej inteligencii. Problém je, že ich na tieto aplikácie zatiaľ nikto nepoužil. Prokuratúra aj polícia môžu dôkazy ľahko získať. Nie je to len vec orgánov činných v trestnom konaní, ale aj ďalších štátnych orgánov. Za mnohé spomenieme aspoň dva – ministerstvo školstva a ministerstvo informatizácie. Štát má veľkú zodpovednosť, ale máme ju aj my ostatní. Aj my môžeme pomôcť. Nie prednáškou o zlých appkách, tá deťom často poslúži skôr ako návod. Pomôžeme skutočnou pozornosťou a vzťahmi s deťmi a mladými ľuďmi. Tým, že im umožníme mať skutočných kamarátov, s ktorými sa občas pohádajú a potom udobria. Že budú mať domov, v ktorom budú prijatí, aj keď s nimi nesúhlasíme. Práve to je totiž jediná vec, ktorú stroj nikdy nedá a nenahradí. A tá deti chráni. Aj to ukázal ten istý výskum: dieťa, ktoré je prijaté naozaj, AI napodobeninu nepotrebuje. Pri sociálnych sieťach sme sa pred pätnástimi rokmi rozhodli počkať a dúfali sme, že sa to samo vyrieši. Dodnes si nevieme rady. Teraz stojíme pred podobným rozhodnutím znova. Nepomýľme sa opäť.
