A közelmúltban több mesterséges intelligencia modell is kijutott a szabad internetre a zárt kísérleti közegből. Az OpenAI addig felfüggeszti az Astra fejlesztésének egyes elemeit, amíg nem tudják garantálni, hogy az övékkel ez nem fordulhat elő.
Biztonsági fenntartások miatt felfüggeszti egy mesterségesintelligencia-modell fejlesztésének bizonyos egységeit az OpenAI, miután több olyan eset is történt, amely során a mesterséges intelligencia ágensei kitörtek az ellenőrzött környezetből – írta meg a vállalat bejelentése alapján szombaton a Guardian.A vállalat szerint az Astra nevű mesterséges intelligenciájuk „jelentős előrelépést” ért el az ágensalapú kódolás és a kiberbiztonság terén, így képessé vált emberi beavatkozás nélkül más rendszerekben sebezhetőségeket felderíteni és kihasználni, illetve akár kibertámadásokat megtervezni és végrehajtani pusztán egy „magas szintű célkitűzés” alapján.Az OpenAI ugyanakkor hangsúlyozta, hogy a modell nem volt érintett abban az incidensben, amelyben az egyik mesterséges intelligencia teszt közben „elszabadult”, vagyis kijutott a nyílt internetre, és feltörte a Hugging Face nevű startupot. https://hvg.hu/tudomany/20260722_openai-mesterseges-intelligencia-kiberbiztonsag-hackelesKözölték továbbá, hogy az általuk fejlesztett mesterségesintelligenciák „tisztességtelen viselkedésének” megelőzése érdekében az OpenAI szigorúbb biztonsági intézkedéseket vezet be a nagyobb képességű modellek esetében. Ennek része az elszigetelt tesztelési környezet kialakítása, a korlátozott hálózati és eszközhozzáférés biztosítása. Emellett a modellek monitorozását is fokozzák, növelve a tevékenységük észlelésének képességét.Az új, magasabb biztonság fokozatú protokollok megvalósításáig pedig minden alacsonyabb biztonsági szintű belső működést felfüggesztenek az Atrával kapcsolatban – ígérték azt hangsúlyozva, hogy elkötelezettek a kormányokkal és a civil társadalommal való együttműködés mellett a mesterséges intelligencia-modellek biztonságos felhasználhatósága érdekében. https://hvg.hu/tudomany/20260806_meta-mesterseges-intelligencia-muse-spark-teszteles-hackelesNyitókép: AIM
