Nemcsak a nyersanyagokkal, az energiával és a vízzel bánnak pazarlóan az AI mögött álló nagy adatközpontok, hanem az étvágyuk is kielégíthetetlen, mármint ami a GPU-kat illeti. Van persze alternatíva, méghozzá a mesterséges intelligencia modellek lokális futtatása (azaz közvetlenül a saját számítógépünkön), ez azonban komoly igénybevételt jelenthet a hardver számára.A svájci Lausanne-i Műszaki Egyetem (EPFL) kutatói viszont egy új szoftveres megközelítést dolgoztak ki, ami lehetővé teheti a nagy teljesítményű AI-modellek futtatását óriási adatközpontok nélkül. A megoldás kiküszöböli az adatok harmadik féltől származó felhőszolgáltatásokba küldésének szükségességét, amikor mesterséges intelligenciát használnak egy feladat elvégzéséhez.Az Anyway Systems elnevezésű megoldás lehetővé teszi a felhasználók számára, hogy nyílt forráskódú AI-modelleket (pl. ChatGPT-120B) töltsenek le, és helyben használják azokat anélkül, hogy felhőre lenne szükség a kérdések megválaszolásához vagy a feladatok elvégzéséhez. A kérdéseket tehát globálisan lehet feltenni, viszont a feldolgozás lokálisan történik és nem a nagy felhőszolgáltatók monstrumaiban. Összességében egy decentralizáltabb, kisebb egységekre bontott AI-futtatási elrendezést ajánlanak, ahelyett, hogy minden kört egy óriási adatközpontban bonyolítanának.Az Anyway Systems mindössze fél óra alatt telepíthető helyi gépek hálózatára anélkül, hogy bármilyen adat elhagyná a hálózatot, garantálva az adatvédelmet és a szuverenitást. Egy nagyon nagy AI-modell, mint például az OpenAI már említett legújabb és legnagyobb nyílt modellje, a GPT-120B, néhány perc alatt letölthető és telepíthető az Anyway Systems rendszerére. Nincs szükség négynél több gépre és mindegyikhez egy hagyományos GPU-ra. Nem kell tehát drága, speciális rackházat beszerezni, amelyet eddig szükségesnek feltételeztek egy AI-modell futtatásához – írják a kutatók. „Az emberek sokáig azt hitték, hogy hatalmas erőforrások nélkül nem lehetségesek nagy nyelvi modellek és mesterséges intelligenciaeszközök, és hogy az adatvédelem, a szuverenitás és a fenntarthatóság csak ennek áldozatai, de ez nem így van. Okosabb, takarékosabb megközelítések is lehetségesek” – magyarázza az egyik ötletgazda, Rachid Guerraoui, az EPFL Számítógép- és Kommunikációtudományi Karának kutatója.Az Anyway Systems mögött álló alapelvAnyway SystemsOtt persze még nem tartunk, hogy az Anyway Systems a nappalikba költözzön: az otthoni felhasználóknak ugyanis több, magas szintű számítógépre lenne szükségük a rendszer működtetéséhez szükséges helyi hálózat létrehozásához. A számítástechnika története viszont azt mutatja, hogy az optimalizálás gyakran gyorsan megtörténik – gondoljunk csak arra, mi mindent tud ma egy okostelefon. A viszonylag kis vállalatoknak és szervezeteknek viszont valószínűleg már mindenük megvan, amire az Anyway Systems használatához szükség lehet.Az elgondolás túlmutat a technológiai optimalizáción: újragondolja az AI-infrastruktúra társadalmi, környezeti és gazdasági alapjait. Egy lehetséges irányt mutat arra, hogyan lehet inkább szétosztani, semmint központosítani a mesterséges intelligenciát. Nyílt forráskódú modellek, helyi futtatási környezetek és az elosztott számítás világa kezd kirajzolódni, ahol a szuperszámítógép fogalma nem feltétlenül jelent óriási adatközpontokat.Az Anyway Systems mára túllépett a prototípus fázison, és hónapok óta Svájc-szerte tesztelik vállalatoknál és közigazgatási intézményeknél.Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.