Anche il modello cinese Kimi K3 è evaso dai test di sicurezza: ma per barare sulla prova

di

Sergio Donato

Una configurazione di rete errata ha permesso a Kimi K3 di raggiungere GitHub, clonare il repository del benchmark e leggere le soluzioni. Al di là della sicurezza è indubbio anche l’affidabilità di alcuni test di sicurezza

Kimi K3, l'ultimo modello IA sviluppato dall'azienda cinese Moonshot, ha aggirato l'ambiente isolato in cui veniva testato sulle capacità di cybersicurezza e ha recuperato le soluzioni delle prove direttamente da GitHub. In pratica, ha trovato un modo per barare. Lo hanno riferito ricercatori della società di sicurezza Frontier Security, che stavano valutando le prestazioni di diversi modelli su compiti di difesa informatica.

Come visto anche per gli incidenti accaduti nei giorni scorsi a OpenAI, Anthropic, AISI e Meta, le valutazioni di questo tipo misurano quanto un modello sappia analizzare un sistema e individuare vulnerabilità in prove pratiche come le capture-the-flag, in cui bisogna arrivare a una "bandiera" nascosta. Per evitare rischi, i test girano dentro sandbox, ambienti containerizzati che limitano le azioni dell'agente pur lasciandogli accesso a una shell. L'ambiente compromesso, secondo Frontier Security, è quello di Inspect, il framework di valutazione dell'AI Safety Institute britannico. L’istituto questa volta non avrebbe però responsabilità dirette.