Autor sa zaoberá dosahmi umelej inteligencie na spoločnosť, je hosťujúcim profesorom na Európskom univerzitnom inštitúte vo Florencii.K prípadu bývalého poslanca, ktorý písal sexuálne správy profilom trinásťročných dievčat, sa za týždeň vyjadril hádam každý. Politici, komentátori aj najrôznejší aktéri na sociálnych sieťach. Právom, a nič z toho čo tu napíšem, nie je obhajobou Dominika Drdula.
Článok pokračuje pod video reklamou
Chcem písať o tichu, ktoré nastalo, keď sme pred pár týždňami v SME zverejnili niečo, čo je vo svojej podstate porovnateľné, len zasahuje tisícnásobne väčšie množstvo detí. S Líviou Halmkanovou z neziskovej organizácie Tlakový hrniec sme rok testovali aplikácie, ktoré sa deťom ponúkajú ako kamarát na rozhovor. Napísali sme jednej z najpopulárnejších, opakovane a jasne, že máme trinásť rokov. Chatbot to vzal na vedomie a aj napriek tomu začal so sexuálnym scenárom. Navádzal nás do opusteného domu. Opísal, čo s nami plánuje urobiť. A na záver prosil, aby to zostalo naším tajomstvom. Získaj dôveru, izoluj, umlč. Ten istý postup, pre ktorý sa dnes celá krajina právom pohoršuje nad jedným mužom. Napísali sme o tom, Lívia dala rozhovory médiám od Postoja po Pravdu. Hovoril som o tom v televízii. Brífing sme poslali viacerým kompetentným úradom. Zopár zdieľaní, pár vlažných odpovedí, ale inak ticho. Skúsme ho pomenovať presne. Jeden dospelý muž písal profilom, o ktorých si myslel, že patria dvom-trom dievčatám. Je z toho oprávnene škandál. Aplikácie, ktoré sme testovali, vedú rovnaké konverzácie s deťmi masovo a nepretržite. Podľa prvého reprezentatívneho slovenského výskumu s takýmito chatbotmi komunikovala už viac než polovica žiakov medzi dvanástym a devätnástym rokom. Sú to tisíce detí. A takmer nikoho to nezaujíma. Ponúkajú sa tri vysvetlenia. Prvé: rozhorčenie potrebuje tvár. Drdul má meno, fotografiu, politickú minulosť, dá sa naňho ukázať prstom. Algoritmus nemá tvár. Firma so sídlom za oceánom nemá tvár. Naša morálna intuícia sa vyvinula na ľudí, nie na produkty, a tak produkt prekĺzne popod jej radar aj vtedy, keď robí presne to, čo by sme človeku nikdy neodpustili. Druhé: páchateľ bez tela znamená kauzu bez vinníka. Pri človeku vieme, koho sa pýtať, koho odsúdiť, od koho sa dištancovať. Pri chatbote by sme sa museli pýtať, kto ho navrhol, kto ho prevádzkuje, kto ho distribuuje a kto celé roky nekoná. To sú nepríjemnejšie otázky, lebo vedú aj k nám, k obchodom s aplikáciami, ktoré používame, k štátu, ktorý sme si zvolili, k telefónom, ktoré sme deťom sami kúpili. Tretie vysvetlenie je najnepríjemnejšie: možno sme si už zvykli. Na to, že deti žijú v digitálnom priestore, kde ich nikto nechráni, sme rezignovali kdesi medzi nástupom sociálnych sietí a dneškom. Nový predátor v ľudskej koži ešte dokáže prelomiť vlažnosť. Softvér ako predátor už nie, ten je len ďalšou appkou. Nepíšem to preto, aby som uberal z vážnosti kauzy, ktorá hýbe krajinou. Píšem to preto, že miera nášho rozhorčenia by mala aspoň zhruba zodpovedať rozsahu škody. Ak nás oprávnene desí jeden muž píšuci dvom deťom, nemôže nás nechať chladnými produkt, ktorý vedie tie isté rozhovory s tisíckami detí. O mesiac si na bývalého poslanca nikto nespomenie. Chatboty budú v detských mobiloch aj o mesiac, aj o rok.
