A generatív AI lenyűgöző az információkeresési képességét tekintve. Egy egyszerű utasítással hasznos információkat lehet gyűjteni vele bármilyen témáról. A mesterséges intelligencia így egyszerre tűnik hasonlónak az emberhez, az ember intelligens és innovatív létmódjához, és tűnik teljesen robotszerű gépnek, amely a tényszerűség vasfegyelmével zakatol. Hiszen mint minden gép, az AI-gép is definíció szerint „hideg” és „mechanikus”. Nem mutat kivételezést, részrehajlást semmilyen irányban, és sem tudattal, sem érzésekkel nem rendelkezik.Az objektivitást definiálni egyszerre egyszerű és bonyolult. Az objektivitás az értelmezés vagy a szubjektivitás hiánya: a tények elemzése a maguk nyers adottságában, anélkül, hogy bármilyen sajátos nézőpontból közelítenénk hozzájuk. Az objektivitáshoz elegendő nem „eltorzítani” az információt.Bizonyos esetekben nyilvánvaló, hogy egy információ objektív. Ha például Joe Biden valamelyik beszédét szóról szóra visszaadnám, akkor elmondhatnánk, hogy ez valóban objektív. Hasonlóképpen vannak tisztán tényszerű és objektív tudományágak, amelyek esetében az objektivitás kérdése fel sem merül, ilyen például a matematika. De ez a két példa kivétel, ha a körülöttünk lévő adattengert vizsgáljuk. Ebben a tengerben nagyon kevés olyan adat van, amely tisztán tényszerű és mentes minden értelmezéstől.Mivel az AI adatokon alapul, a kérdés, amit fel kell tennünk, nem az, hogy „objektív-e az AI?”, hanem az, hogy „objektív-e maga a világ, amelyhez az AI hozzáfér?”. Miután az AI csak egy eszköz, amely végrehajtja azt az utasítást, amit a kapott adatok alapján végrehajtatnak vele, és mivel a ChatGPT adatállománya a teljes weben alapul, ahol sok ostobaság kering, így elég valószínűtlen, hogy a ChatGPT objektív lenne. https://hvg.hu/hvgkonyvek/20260614_a-mesterseges-intelligencia-tenyleg-az-eletunkre-torEz a zavar minden bizonnyal a logikai mesterséges intelligenciából fakad. A logikai AI-rendszerek nem térnek el a nekik adott szabályoktól. Működési módjuk azonban semmit sem mond az alkotóik és az általuk beprogramozott algoritmus objektivitásáról. Nem valószínű, hogy az AI szeszélyesen viselkedne és eltorzítaná a döntési fát, de mi van akkor, ha maga a program nem objektív? Ha az alkotók egy „szubjektív” algoritmust építenének be az AI-ba, akkor is elmondhatnánk, hogy a rendszer objektív? Az AI nem hoz önálló döntéseket, csak az alkotója utasításait követi.Azt gondolhatnánk, hogy elegendő tényeket betáplálni ezekbe a generatív AI-rendszerekbe, és máris objektívvé válnak. De visszaesnénk az eredeti csapdahelyzetbe: honnan tudjuk, hogy egy tény objektív-e?Színtévesztés: a szubjektív világ példájaSzínvak vagyok; nem ugyanúgy érzékelem a színeket, mint a többi ember. Ha megkérdezem, milyen színű az az autó, amely a ház előtt parkol, elvileg mindenki rávágná, hogy piros. Csakhogy ez a helyzet nem fedi az én valóságomat: én zöldnek látom azt az autót, amely másoknak piros.A színek nem ugyanúgy jelennek meg mindannyiunk agyában. Az én látásom persze nem tükrözi a többség tapasztalatát, de már ez is elég ahhoz, hogy megkérdőjelezzük az objektivitás fogalmát: definíció szerint egy helyzet nem lehet objektív, ha az értelmezése nézőponttól függően változik.Háborúskodás: maga a szubjektivitásVegyünk egy másik példát egy olyan helyzetre, ahol az objektivitás nem létezik: ilyen a háború. A háború definíció szerint két csoportot állít szembe egymással. A háborús tényállásokat a háborús felek eltérő módon minősítik. Ezt látjuk például az Oroszország és Ukrajna közötti jelenlegi konfliktusban is. Vannak, akik azt mondják, hogy ez háború, mások invázióról beszélnek, megint mások ellentámadásról. Nem vonhatjuk kétségbe a tényt: a két ország konfliktusban áll. De mindegyiknek érdekében áll, hogy a tényeket átdolgozva felépítse a maga narratíváját.Érthető hát, hogy nehéz objektivitásról beszélni a világunkban. De hogyan fordítható ez le az AI világára? Milyen buktatókkal találkozhatunk ott?AI-torzításokAz adatok kulcsfontosságúak egy AI működéséhez, ám nem minden adat megfelelő. Az első generatív AI-rendszerek, amelyeket általános célú intelligenciáknak terveztek, már megmutatták, milyen korlátot jelent, ha szűrés nélküli adatokra alapozzuk a modelleket. Mivel a teljes internetes adatállományt beépítik a modellbe, szükségképpen csökken a modell relevanciája, és messze nem lesz megbízható eszköz.Még a gondosan megválogatott adatok is lehetnek szubjektívek és részrehajlók. Az elfogultság rögtön megjelenik, amint nem pontosan reprezentálják a valóságot. Amikor módosítás nélkül betápláljuk az adatokat, kétféle problémával szembesülhetünk:• adattúltengés: egy információ túlreprezentált a valósághoz képest;• adathiány: egy létező információ csak szórványosan vagy egyáltalán nem jelenik meg az adatállományban, ami az AI szempontjából olyan, mintha nem is létezne.Még ha tisztában is vagyok azzal, hogy az adat nem reprezentatív a valóság tekintetében, és módosítom azt, ezzel a módosítással egy új torzítást hozok létre. „Választani valamit annyit tesz, mint lemondani valami másról.” Ha megpróbálom korrigálni a helyzetet, akkor torzítom az adatokat, mivel manipulálom őket.Természetesen vannak objektív matematikai vagy fizikai valóságok, amelyek esetében az elfogultság kérdése fel sem merül. De ez csak töredéke a létező témáknak.Bár a torzítások, a részrehajló válaszok gyakoriak, nem jelentenek akadályt a mesterséges intelligencia használatában, különben nem lenne ezeknek a rendszereknek milliárdnyi felhasználójuk.Az igazi probléma nem az, hogy vannak elfogultságok, hanem az, hogy ezeket az eszközöket abban a hitben használják az emberek, hogy objektívek. Az információkat biztonságosabb Google-keresővel ellenőriznünk, mint generatív mesterséges intelligenciával.Egy profitorientált eszközA generatív AI egy profitorientált vállalatok által forgalmazott termék. Ezért ezeknek a vállalatoknak nem feltétlenül az a céljuk, hogy a világ legrelevánsabb mesterséges intelligenciáját kínálják (bár ez lenne az ideális). Céljuk az, hogy olyan eszközt kínáljanak, amely eléggé megfelel a felhasználók igényeinek ahhoz, hogy minél többen, minél többet használják, hasonlóan a közösségi hálózatokhoz. Ezek a vállalatok mindent megtesznek annak érdekében, hogy ösztönözzék az embereket, hogy lekérdezéseket küldjenek az AI-rendszerüknek.Hogyan érik ezt el? A Facebookhoz, az Instagramhoz vagy a Twitterhez hasonlóan úgy finomhangolják az algoritmusaikat, hogy a megoldásuk elnyerje a felhasználók tetszését. Ami annyit tesz, hogy megadják a felhasználó által kért választ, és barátságos hangnemben csevegnek vele. Viszont nem elsődleges szempont egy ilyen rendszernél, hogy a helyes választ adja. Sőt, a mesterséges intelligencia nem is tudja, hogy mi a jó válasz. Tartsuk észben, hogy ezek az eszközök nem a barátaink, és olyan pszichológuscsapatok fejlesztették őket, akik jól ismerik az emberi agy működési mechanizmusait.Robot, nem pilótaHVG KönyvekSzubjektivitásának végső bizonyítékaAz objektivitás mítoszának ledöntését azzal zárom, hogy megmutatom a végső bizonyítékot arra, hogy a generatív AI nem objektív. Ez a bizonyíték maga a prompt.A prompt lehetővé teszi, hogy megfogalmazzuk a kérdéseinket, és választ kapjunk rá a mesterséges intelligenciától. A prompt meghatározó jellemzője, hogy képes torzítani a mesterséges intelligenciát, képes torzítani a gép által adott választ. Ugyanarra a kérdésre az AI mást és mást fog válaszolni attól függően, milyen promptot adunk neki.Egy megbízható és objektív információforrás nem fog a kérésünk függvényében képlékenyen módosuló válaszokat adni. Ha az interneten rákeresek New York 2024-es lakosságára, ugyanazt a választ kapom (húszmillió fő), függetlenül attól, hogy hogyan fogalmazom meg a lekérdezést. A Google objektívebb, mint a generatív AI, mert nincs változékonyság a válaszaiban (de mivel a Google ostobaságokat is feldob néha, ezért mindig ellenőrizni kell a talált információkat).A fenti cikk Luc Julia AI-kutató Robot, nem pilóta című könyvének szerkesztett részlete. A kiadványt itt rendelheti meg kedvezménnyel.