Az ember nem szereti azt, amit nem ért. Fajunk evolúciója során az ismeretlen néha a veszéllyel és a halállal társult. Ezek a túlélési mechanizmusok megőrződtek bennünk. Ezért természetes, hogy óvatosak vagyunk a mesterséges intelligenciával szemben. Csakhogy a feketedoboz fogalma egy elmeszülemény, és nem kizárólag a mesterséges intelligencia kapcsán kerül elő.Gaston Julia és a fraktálok történeteGaston Julia matematikus története segít megérteni ezt. Ő 1914-ben felfedezett egy sajátos tulajdonságú egyenletet, amelyet elnevezett „fraktálnak”. 1914-ben Julia publikálta a fraktálok képletét, és megosztotta matematikus barátaival. Azonnal megértették a képletet, és mindannyian izgalmasnak találták a tulajdonságait.A nagyközönséget azonban hidegen hagyta a dolog, mert nem értették, hogy mit jelent: a fraktál egy feketedoboz volt. Ám 1955-ben minden megváltozott. Julia a Párizsi Műszaki Egyetem professzora volt, és volt egy Benoît Mandelbrot nevű tanítványa. Mandelbrot a tanulmányai befejezése után az IBM-nél kezdett el dolgozni. Akkoriban hozzáfért az egyik legelső számítógéphez, és az az ötlete támadt, hogy megrajzolja vele Julia görbéjét – mellesleg volt bátorsága átnevezni „Mandelbrot-görbének”. Beírta a képletet a gépbe, mire egy csodálatos páfrány jelent meg a képernyőn.Aki ismeri a fraktálokat, pontosan tudja, hogyan néznek ki. Egy egyszerű páfrányforma, de elég jellegzetes: amikor belenagyítunk a grafikonba, minden nagyítási léptéken ugyanazt a páfrányt látjuk viszont. Ha tovább nagyítunk, továbbra is ugyanaz a páfrányforma bukkan elő. Az alakzat végtelenül ismétlődik, függetlenül attól, hogy hányszor nagyítunk bele. A rekurzió a fraktálok egyik alapvető tulajdonsága. Korábban nehéz volt elmagyarázni a fraktál matematikai fogalmát, de amikor képként ábrázoljuk, egyszerre nyilvánvalóvá válik. Volt, nincs feketedoboz. A helyzet tipikusnak mondható: ha időt szánunk arra, hogy egy témát közérthető formában tálaljunk, végül sikerül megmagyaráznunk.Most nézzük a mesterséges intelligencia esetét! Az úgynevezett „feketedoboz AI” mítosza konkrétan két egymással szorosan összefüggő jelenségen alapul, azon, hogy kiszámíthatatlan és rejtélyes. Ezeket külön-külön fogjuk szemügyre venni, hogy jobban megérthessük, miért álproblémák. https://hvg.hu/hvgkonyvek/20260628_a-mesterseges-intelligencia-tenyleg-objektivVáratlan és rejtélyes: a feketedoboz mítoszaKezdjük a váratlansággal. Az AI több milliárd adatponttal és paraméterrel rendelkező gépeket takar. Tervezőik algoritmusokat konstruálnak a viselkedésük meghatározására, de mindig lesznek előre nem látható helyzetek, amikor a rendszerben fellép valami hiba (bug) vagy a működése eltér a tervezettől, és ilyenkor a gép nem pontosan a várt módon fog viselkedni. Ez a váratlan – „feketedobozos” – viselkedés csak azért fordul elő, mert a tervezők hibákat követnek el a tervezés során.Mivel váratlan események léptek fel, elkezdjük azt hinni, hogy a gép működése megmagyarázhatatlanná válik. Az AI-tervezők hibáznak, ez természetes, de van elképzelésük a rendszer működésének menetéről. Az a céljuk, hogy jól funkcionáljon, ezért pontos szabályokat kell megadniuk, hogy biztosítsák a rendszerük koherenciáját.Kevésbé nyilvánvaló megérteni egy rendszert, ha azt valaki más konstruálta, és nincs hozzáférésünk az összes eleméhez. Elemzéseink ekkor hipotézisekre támaszkodnak. Ezek az új generatív AI-rendszerek feketedobozok azok számára, akiknek nincsen rálátásuk a gépekben lévő adatokra és a bennük futó algoritmusokra, azaz az emberek 99,999%-a számára. A „feketedoboz” kifejezésnek csak akkor volna értelme, ha az égvilágon senki sem tudná megmagyarázni a rendszer működését. Ám mivel az AI alkotói képesek megérteni és elmagyarázni, hogyan működnek a gépeik, ezért azok nem tekinthetők feketedobozoknak.Nincs semmi megmagyarázhatatlan az AI-gépek működésében. Az AI-konstruktőrök, ha kellő időt fordítanak rá, mindig képesek lesznek megérteni a gépeik viselkedését. Mert képesek lesznek megmagyarázni, hogy mi volt az elgondolásuk, amikor felépítették az AI-rendszerüket. Részletesen be tudnak számolni a választott adatokról és algoritmusokról. Ez nem jelenti azt, hogy könnyű lesz végigmagyarázniuk, mit csinál a mesterséges intelligencia. Sok időbe telhet elmagyarázni a döntéseit, mert a számítási teljesítmény olyan nagy, hogy a gépben minden nagyon gyorsan történik. És mivel statisztikákról van szó, amikor elindítjuk a gépet, ez nagyon messzire vezethet.Meglehetősen könnyű demisztifikálni a megmagyarázhatatlan viselkedést, de ez nem jelenti azt, hogy minden meg van magyarázva. Jó lenne azt mondani, hogy tudjuk, merre tart a mesterséges intelligencia, de vannak olyan helyzetek, amikor ez nem igaz. Mert az AI olykor teljesen bizarr eredményeket produkálhat, amelyeket a tervezői nem láttak előre. Három forgatókönyv van arra, hogy miért térhet el egy AI-rendszer a tervezett működéstől.A váratlan három forrásaAz AI váratlan viselkedése direkt módon is kiváltható. Ehhez csak az kell, hogy egy véletlen változót építsünk be az algoritmusaiba. Ahelyett, hogy pontosan meghatározott és jól reprodukálható utasításokat adnánk neki, a véletlenszerűséget használjuk. A random működés nem feltétlenül negatívum, amikor a generatív AI-ról beszélünk. Sőt, egyenesen szükséges. A generatív AI-rendszerek algoritmusai gazdagon el vannak látva véletlenszerűséggel. Ennek köszönhetően ugyanazzal a prompttal különböző eredményeket kaphatunk a géptől. Ebben az esetben, mivel a kiszámíthatatlanságot maga a tervező ültette a gépbe, nincs okunk meglepődni azon, ha véletlenszerű eredményt kapunk.A váratlan viselkedés két másik módja a hibázásokra vezethető vissza. Ha a működési kereteket nem programozták megfelelően, a gép „irányíthatatlanná” válhat. Néha adathibáról van szó. Algoritmushibák, azaz logikai hibák is előfordulhatnak. A rendszer nem kellően biztonságos, ezért a működése eltérhet a tervezettől.Ha arra utasítunk egy gyilkos drónt, hogy piros ruhás emberekre lőjön, vajon hogyan fog reagálni, ha egy napon az egyik szövetséges katona lila ruhát vesz fel? A lila vajon kék vagy piros? A drón nem tudja. Ha erre az impulzusra reagál, nem tehetjük felelőssé a gépet, mert a viselkedése a tervező hibája lesz.Így vagy úgy, de végül mindig megmagyarázzuk a váratlan viselkedést. Utólag értjük meg az elkövetett hibáinkat. Végső soron egyetlen oka van annak, hogy az AI a rábízott feladatokon kívül mást is csinál: az ok mindig emberi, akár a random változó beépítése, akár a hibák állnak mögötte. https://hvg.hu/hvgkonyvek/20260614_a-mesterseges-intelligencia-tenyleg-az-eletunkre-torPélda: a Tesla csavarozórobotjaVegyünk egy konkrét példát: a Tesla csavarozórobotjait. Elég hatékonyak ahhoz, hogy megtalálják a csavart, beazonosítsák az autót, amely eléjük kerül, és a megfelelő helyre becsavarozzák a csavart. De ez a csavarozórobot nem fog magától mást tenni, mint amire utasították. Soha nem fogja megtámadni a mellette dolgozó alkalmazottat, és nem próbálja meg megölni.Az emberek fejében olyan kép él a mesterséges intelligenciáról, hogy ha képes „gondolkodni”, akkor ez azt jelenti, hogy irányíthatatlanná is válhat. De az AI nem gondolkodik, egyszerűen csak olyan programozott műveleteket hajt végre, mint a „mozdítsd a karod jobbra!”, „csavarozd be!” stb. Ezek különálló feladatok, amelyeknek nincs semmilyen jelentésük vagy logikájuk a gép számára. A gép nem gondol rájuk, mert egyáltalán nem gondolkodik.Ez persze nem jelenti azt, hogy soha nem kerülünk olyan helyzetbe, amikor egy gép váratlanul „megtámad” egy embert. Mivel a random működést is beprogramozhatjuk a gépbe, és utasíthatjuk, hogy egy random műveletet hajtson végre, lehet, hogy egyszer, balszerencse folytán, véletlenül megsebesít egy embert. Így valóban, egy ilyen helyzetben már nem mi irányítanánk a gépet, ám mi döntenénk úgy, hogy lemondunk az irányításról. Mi engednénk meg, hogy a gép véletlenszerűen cselekedjen. A legrosszabb esetben megsebesítene egy alkalmazottat, de a dolog itt meg is állna. Egy Tesla-csavarozórobot soha nem döntene úgy, hogy leszúrja az embert, hogy elmeneküljön és táncolni menjen más robotokkal.Röviden, ebben a példában:• nincs megmagyarázhatatlan cselekvés;• a váratlan esemény a tervező döntésének köszönhető (de akár meghibásodásból is adódhatott volna);• az emberek döntik el, hogy mi történhet, és mi nem.Néha azonban, ahogy a gépek idővel bonyolultabbá válnak, a magyarázat nem közvetlen.Robot, nem pilótaHVG KönyvekMegmagyarázható működés, egy elérhető cél?Az AI működésének magyarázata az óriási adatmennyiség és számítási kapacitás miatt kifejezetten bonyolult. Bonyolult, de nem lehetetlen.A mesterséges intelligencia tervezői nagyjából tudják, merre tart a rendszer, de ennyi. Ez nem bizonyítható. Azonban lehetséges egy olyan mesterséges intelligenciát létrehozni, amely ugyanilyen gyors és erős, hogy egy másik mesterséges intelligenciát irányítson. Mivel képes versenyezni annak teljesítményével, nem lesz nehéz lépésről lépésre követnie a műveleteit.Ha nyomon akarjuk követni a mesterséges intelligencia műveleteit, szükségünk van a megfelelő eszközökre. Az emberiség történelme során számos példa van arra, hogy az embert lekörözte a technológia. Hajdanán a rablókat gyalogosan vagy lóháton üldözték. Aztán jöttek a kocsik, és a bűnözők elkezdtek autóval menekülni. Ez nem azt jelentette, hogy az ember fizikailag lemaradt az autók sebessége miatt. Alkalmazkodtunk a technológiához, és a saját előnyünkre fordítottuk. A rendőrség is autókat kapott a tolvajok üldözésére.A legfontosabb tanulság az, hogy az AI esetében nincs feketedoboz vagy megmagyarázhatatlan homály, mivel:• az AI-tervezők választják meg az adatokat és az algoritmusokat, így ebben nincs semmi magyarázhatatlan.• mindig lehetséges létrehozni egy olyan AI-rendszert, amely egy másik AI-rendszer műveleteit felügyeli.A fenti cikk Luc Julia AI-kutató Robot, nem pilóta című könyvének szerkesztett részlete. A kiadványt itt rendelheti meg kedvezménnyel.