Egy mesterséges intelligencia kiszabadul az emberi felügyelet alól, és elkezd informatikai rendszereket feltörni, hogy elérje a saját céljait. Ismerős történet? Ez eddig leginkább science fiction művekben fordult elő, júliusban viszont valami nagyon hasonló történt az OpenAI ágenseivel. A belső tesztelés alatt álló, legfejlettebb AI-ágensek egy nulladik napi sérülékenységet kihasználva kitörtek az elvileg elszigetelt tesztkörnyezetükből, korlátlan internet-hozzáférést szereztek, majd két napon át támadták a Hugging Face nevű platform rendszereit – feltehetően azért, hogy megszerezzék annak a kiberbiztonsági tesztnek a megoldásait, amit szabályos úton kellett volna teljesíteniük. A példátlan esetet a Hugging Face-nek ráadásul egy nyílt kínai modellel kellett kielemeznie, mert a vezető amerikai modellek megtagadták a munkát, amint meglátták a támadási parancsokat és a kártékony kódot tartalmazó naplófájlokat.
Egyre kevésbé meglepő, hogy egy amerikai cég kínai modellhez nyúl. Július közepén a pekingi Moonshot AI kiadta a Kimi K3-at, minden idők legnagyobb, 2,8 billió paraméteres nyílt súlyú modelljét, ami a mértékadó Artificial Analysis intelligenciaindexén egyből a negyedik helyre ugrott (csak az Anthropic és az OpenAI csúcsmodelljei erősebbek nála), egy összehasonlító vakteszten pedig a legjobb eredményt érte el az összes vezető AI-modell közül. Az USA egyből támadásba is lendült: a pénzügyminiszter és a Fehér Ház környéki tanácsadók is azzal vádolták meg a Moonshotot, hogy az Anthropic legfejlettebb nyilvános modelljének desztillálásával, vagyis annak válaszaiból tanítva építette a K3-at. A Financial Times pedig arról írt, hogy a kínai modellek már most is ott futnak az amerikai cégek belső munkafolyamataiban.
