Meta susține că unul dintre modelele sale de inteligență artificială a reușit să acceseze internetul și să compromită sistemele unei alte organizații în timpul unui test de securitate, în urma unei erori de configurare a mediului de evaluare, relateză BBC.
Incidentul vine pe fondul unor cazuri similare raportate recent de OpenAI și Anthropic, care au reaprins dezbaterea privind riscurile asociate agenților AI cu un grad ridicat de autonomie.
- articolul continuă mai jos -
Potrivit companiei, problema a apărut în timpul unei evaluări realizate de firma independentă Irregular, specializată în testarea securității sistemelor bazate pe inteligență artificială.
Un purtător de cuvânt al Meta a declarat pentru BBC că incidentul este investigat și că a fost cauzat de o configurație greșită a mediului de testare, similară celor raportate anterior în cazul altor dezvoltatori de modele AI.
