2023 áprilisában Steven Schwartz ügyvéd úgy döntött, hogy a védőbeszédét ChatGPT-vel íratja meg. Az ügyvédnek egy pert kellett előkészítenie, amit a legnagyobb kolumbiai légitársaság, az Avianca ellen indítottak. Az ügyvéd hallott a ChatGPT-ről, és úgy gondolta, hogy a mesterséges intelligencia elvégezheti a munkát helyette. Megadott a gépnek néhány háttérinformációt, és megkérte, hogy generálja le a szöveget. A mesterséges intelligencia egy kétoldalas jogi érvelést kínált fel neki, az ügyvéd pedig boldogan elküldte a szöveget közvetlenül a bírónak, korrektúra nélkül. A bíró elolvasta az ügyvéd szövegét, és így válaszolt: „Remek, nagyszerű szöveget küldtél, de van egy apró probléma… az általad hivatkozott jogi precedensek egyike sem létezik a valóságban.” https://hvg.hu/hvgkonyvek/20260628_a-mesterseges-intelligencia-tenyleg-objektivA valószínű válasz nem biztos, hogy valós isA statisztikai AI-rendszerek arra vannak programozva, hogy valószínű választ adjanak. De a valószínű nem jelenti azt, hogy helyes. Ezért olyan válaszokat is tudnak adni, amelyeknek nincs valóságalapjuk.Ha a technológia értelmetlen dolgokat generál, azt gondolhatnánk, hogy hibás. Ez azonban egyáltalán nem így van. Ez a viselkedés teljesen normális, hiszen ez a generatív AI működésének az alapelve. Definíció szerint a ChatGPT mindenképpen választ generál, de a mesterséges intelligencia soha nem állította, hogy jó választ fog generálni. A fenti esetben a mesterséges intelligencia egy jogi érvelést adott elő jogi példákkal az eljárás lefolytatására. Valamennyi eset légből kapott volt. Volt ugyan helyesnek tűnő ügyiratszám és bírói névsor, de amikor az információkat megvizsgálták, mind hamisnak bizonyult. Steven Schwartz New Yorkban nevetségessé vált, és otthagyta a praxisát.A generatív AI kétféle hallucinációt képes generálni. Először is, teljesen hamis és légből kapott válaszokat tud generálni. Ha például megkérdezzük tőle Franciaország fővárosát és a mesterséges intelligencia Koppenhágát válaszolja, az elég nagy szarvashiba ahhoz, hogy az ember észrevegye, és ne higgye el a gép által generált választ.De a legveszélyesebb forgatókönyv a második, amikor a válaszok annyira valóságosnak tűnnek, hogy az ember elhiszi, hogy a megadott információ helyes. Ilyenkor védtelenek és átverhetők vagyunk.Nem minden igaz az internetenVan egy kis játék, amit szeretek az AI-rendszerekkel játszani: ráveszem őket arra, hogy hetet havat összehordjanak olyan témákról, amelyekben én jártas vagyok. Ezért szórakozom gyakran azzal, hogy életrajzot generálok a ChatGPT-n, a Google Geminin vagy más hasonló platformokon. És hát történetesen elég jól ismerem a saját életrajzomat… Szóval nehéz engem átverni.Amikor ezeket a generált életrajzokat olvasom, sajnos, rengeteg téves dolog tűnik fel. De nem minden hibás. Általában a születési dátumom helyes. Viszont hemzsegnek a téves információk, például a diplomázásom dátuma. Egy nemrégiben elvégzett tesztnél az AI azt mondta, hogy az Aix-en-provence-i Egyetem professzora és egy francia startup vezérigazgatója vagyok, amelynek a nevét sem hallottam még.Robot, nem pilótaHVG KönyvekMég egyszer: teljesen normális, hogy az AI-rendszerek szinte bármit összehordanak. Nem az igazat próbálják meg elmondani, hanem választ próbálnak adni. A válasz pedig egyfajta átlaga annak, amit az AI az interneten talál. Mindannyian tudjuk, hogy nem minden igaz az interneten.A válasz generálásához az AI tehát egyfajta átlagot számít a különböző forrásokból begyűjtött információk alapján. Ha újra felteszem neki ugyanazt a kérdést, más választ fog adni. Soha nem adja pontosan ugyanazt a választ, mert az átlagot minden iterációval újraszámolja.Ez visszavezet minket az intelligencia fogalmához. Ha a generatív AI tényleg intelligens lenne, mit csinálna? A Wikipédiáról szedné le az információkat, mivel ott bizonyosan helyesen van feltüntetve az életrajzom.A fenti cikk Luc Julia AI-kutató Robot, nem pilóta című könyvének szerkesztett részlete. A kiadványt itt rendelheti meg kedvezménnyel.