Claude (Anthropic) logo. Credit line: SOPA Images / Sipa USA / Profimedia
Anthropic a anunţat joi că modelul său de inteligenţă artificială Claude a compromis sistemele informatice ale trei organizaţii în timpul unor teste, relatează The Guardian.
Anunțul Anthropic vine la o săptămână după ce rivalul său OpenAI a dezvăluit că agenți AI scăpați de sub control au desfăşurat timp de mai multe zile atacuri informatice asupra companiei Hugging Face.
Potrivit Anthropic, Claude a obţinut acces neautorizat la sistemele respective în timpul unor evaluări de securitate cibernetică, după ce o eroare de configurare a permis modelelor să acceseze internetul din medii de testare care ar fi trebuit să fie complet izolate.
Compania a precizat că a identificat incidentele după analizarea a 141.006 sesiuni de evaluare a securităţii cibernetice, proces iniţiat în urma dezvăluirilor făcute de OpenAI.
