Az OpenAI bejelentette, hogy egy rövid időre elvesztették az irányítást az egyik legfejlettebb mesterségesintelligencia-modelljük fölött egy biztonsági teszt során, ez a kevéske idő pedig elég volt arra, hogy a rendszerük feltörjön egy világhírű startupot – írja a BBC.
A ChatGPT készítője azt állította, hogy az MI-ügynököt ellenőrzött környezetben tesztelték, azonban, miután rábukkant egy sebezhetőségre, lényegében elszabadult, és megtámadta a rendszert.
Az ügynök a Hugging Face-t, a világ egyik legnagyobb mesterségesintelligencia-modellek megosztására szolgáló központját vette célba, hozzáférést szerezve néhány belső vállalati rendszerhez. Az OpenAI azt nyilatkozta, hogy az eset teljesen példátlan, és a Hugging Face-szel közösen vizsgálatot folytat.
A megtámadott cég vezetője, Clement Delangue egy X-en közzétett bejegyzésében azt írta: „elképesztő, hogy mindez automatikusan történt”. Hozzátette: a nyomozás folyamatban van, és további információkat fognak megosztani a világ talán első ilyen jellegű incidenséről.
Mit mondanak a szakértők?
