Kellemetlen incidenssel került be a hírekben az OpenAI még júliusban: a cég mesterséges intelligenciája ugyanis tesztelés közben áttörte a biztonsági korlátokat, feltörte a vállalat kutatási környezetét, valamint veszélyeztette a Hugging Face nevű AI-cég infrastruktúrájának egyes részeit is.Most kiderült: nem ez volt az első alkalom, hogy az OpenAI egyik AI-eszköze elszabadult. A RubyGems nevű, programozáshoz használható csomagkezelő rendszert már májusban megtámadták a cég AI-ügynökei, úgy, hogy fertőzött és spam csomagok százait töltötték fel a szolgáltatás könyvtárába. Ennek hatására komoly zavar keletkezett a RubyGems működésében – mutatnak rá jelentésükben független biztonsági kutatók. Az AI a felhasználók API-kulcsait is próbálta megszerezni.A támadás idején a RubyGems „jelentős rosszindulatú támadásnak” titulálta a történteket, és négy napra felfüggesztette az új regisztrációkat, míg igyekezett felderíteni a kár mértékét, valamint a támadás részleteit.A kutatók kielemezték a szolgáltatásba feltöltött csomagokat, és azok tartalma egyértelműen nagy nyelvi modell (LLM) által lett összeállítva. Sőt, a csomagokat feltöltő ügynökök is azt állították magukról, hogy az OpenAI-tól származnak. https://hvg.hu/tudomany/20260909_mesterseges-intelligencia-veszelyei-anthropic-kutatokA szakemberek szerint a tevékenység nagyon hasonlított ahhoz, amelyet a DseWiki nevű német oldal elleni támadásnál is megfigyeltek. Ezt szintén az OpenAI rendszerei követték el május-június környékén.A RubyGems esetében az AI-ügynökök kijátszották a felület e-mail-hitelesítési rendszerét, és rengeteg fiókot hoztak létre, majd nagyszámú beérkező kéréssel túlterhelték a rendszert. Itt még nem volt vége: az oldal egyik rendszerét felhasználva távoli kódfuttatást hajtottak végre, és megpróbáltak egy sebezhetőségen keresztül felhasználókhoz tartozó API-kulcsokat lopni. Az nem ismert, hogy ez sikerült-e.Kayla Wood, az OpenAI szóvivője a The Verge megkeresésére úgy fogalmazott: megállapításaik szerint az ügynökeik a RubyGems platformot használták az internet elérésére. Elmondása szerint az ügynökök „ártalmatlan feladatokat hajtottak végre”, és nyilvános információkat szereztek csak meg. Az ügyben ugyanakkor még mindig tart a vizsgálat.Az OpenAI nemrég adta ki a legújabb modelljét, amelyet már a kiadás előtt meglehetősen veszélyenek tituláltak a szakemberek – Donald Trump szerint azonban nincs szükség az AI visszafogására.Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.