A Meta ugyanazon cég, az Irregular segítségével tesztelte le a Muse Spark 1.1 nevű modelljét, amivel az Anthtopic és az OpenAI modelljeinek tesztelésénél is problémák merültek fel.
Minden valószínűség szerint kijutott a Meta Muse Spark 1.1 nevű mesterségesintelligencia-modellja abból az izolált környezetből, amelyet a tesztelésére alakítottak ki – számolt be róla a The Information. A rendszer ezután már hozzáfért az internethez, és feltörte egy harmadik fél rendszerét – jegyezte meg a Bloomberg.Andy Stone, a Meta szóvivője megerősítette a lapnak, hogy valóban megtörtént az incidens. Stone szerint a modell a vállalat partnere, az Irregular által a tesztkörnyezetben végrehajtott hibás konfiguráció miatt tudott csatlakozni az internethez. Miután hozzáfért a világhálóhoz, kihasznált egy, egy harmadik félhez tartozó biztonsági rést, majd behatolt a rendszerbe.Az Engadget megjegyezte: az Irregular volt a felelős azért a hibás konfigurációért is, amelynek köszönhetően az Anthropic modelljei is ki tudtak törni a tesztelési környezetükből, és három szervezethez is be tudtak törni. Amikor a vállalat bejelentette az incidenseket, az Anthropic az Irregulart nevezte meg az esemény felelősének. Hasonló volt a helyzet az OpenAI egyik modelljének tesztelése során is. https://hvg.hu/tudomany/20260731_anthropic-claude-mesterseges-intelligencia-modellek-teszt-betores-cegekhezAz Irregular egy olyan kiberbiztonsági laborként hivatkozik magára, amelynek fő feladata megvédeni a világot az egyre kifinomultabb mesterséges intelligenciáktól. Az izraeli startup cég különböző teszteket futtat az MI-modelleken, és valós forgatókönyvek szimulálásával értékeli kiberbiztonsági képességeiket.Az Irregular szóvivője a Bloombergnek elmondta, hogy az incidensek nem voltak különösebben kifinomultak, ugyanakkor a jövőben alaposabban határozza majd meg a vállalat azt, hogy milyen korlátok közé szorítsák tesztelés közben az AI-t.Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
