Az OpenAI pénteken bejelentette, hogy biztonsági aggályok miatt felfüggeszti az Astra nevű, kiadás előtt álló AI-modelljével kapcsolatos munkálatok egy részét. A cég belső kiértékelése szerint a modell ágensként végzett programozási és kiberbiztonsági képességei olyan kritikus küszöböt léptek át, amelynél már emberi beavatkozás nélkül képes sebezhetőségeket felderíteni és kihasználni, sőt egy nagy vonalakban megfogalmazott cél alapján önállóan kitervelni és végrehajtani kibertámadásokat.
Az OpenAI ezért szigorúbb biztonsági kontrollokat vezet be a legnagyobb képességű modelljeire: elszigetelt tesztkörnyezeteket, korlátozott hálózati és eszközhozzáférést, a modellsúlyok fokozott védelmét és titkosítását, valamint kiterjedtebb megfigyelési és észlelési rendszereket – az Astrát érintő belső tevékenységek közül pedig szünetelteti azokat, amelyek az új követelményeknek nem felelnek meg. A vállalat közleménye szerint kormányokkal, biztonsági intézetekkel és civil szervezetekkel együttműködve akarja biztosítani, hogy az Astra és az utána következő modellek képességeit felelősen, az emberiség javára lehessen bevetni.
Az Astra nem akármilyen modell: az OpenAI alig egy héttel korábban azzal került a hírekbe, hogy a rendszer tíz régóta megoldatlan matematikai és elméleti számítástudományi problémára adott megoldást – a kvantumjátékelmélettől a magasabb dimenziós gömbpakolásokig –, és elsőként bizonyította egy nem szofikus csoport létezését, amivel matematikusok generációi próbálkoztak hiába. A bizonyítás ráadásul magyar vonatkozású: a HUN-REN közleménye szerint az érvelés döntően Kun Gábornak, a Rényi Alfréd Matematikai Kutatóintézet főmunkatársának expanderfelbontási tételére, valamint a drezdai Andreas Thommal közös eredményére épül. Ugyanaz a modell tehát, amely napok alatt írta be magát a matematikatörténetbe, a cég saját mérése szerint a kibertérben már veszélyesen önállóvá vált.
