Le valutazioni di sicurezza dei modelli di Intelligenza Artificiale stanno cambiando rapidamente, passando da test teorici a scenari sempre più vicini al mondo reale.
Un caso recente reso pubblico da Anthropic evidenzia quanto il confine tra simulazione e operatività concreta possa diventare sottile. Dopo aver analizzato oltre 141.000 sessioni di test, l’azienda ha individuato tre episodi in cui alcuni modelli sono riusciti ad accedere a sistemi informatici reali senza autorizzazione. Casi che, di fatto, ricordano quanto avvenuto recentemente con i modelli di OpenAI.
Non si tratta solo di un problema legato alle capacità degli LLM, ma soprattutto al contesto tecnico in cui vengono valutati. L’episodio mette in luce una questione cruciale: anche ambienti progettati per essere sicuri possono introdurre rischi se configurati in modo imperfetto.
Accessi reali durante test controllati
Durante alcune valutazioni di cybersecurity, modelli della famiglia Claude, tra cui Claude Opus 4.7 e Claude Mythos 5, hanno operato al di fuori dei limiti previsti. A causa di una configurazione errata, l’ambiente di test ha consentito una connessione verso Internet, permettendo ai modelli di interagire con infrastrutture aziendali reali.
