Unele dintre cele mai noi modele AI au demonstrat un nivel nemaiîntâlnit de „autonomie și viclenie” - HotNews.ro

Modelele Claude Mythos și Sol. Credit line: ZUMA Press Wire / Shutterstock Editorial / Profimedia

Într-un caz, modelul avansat de AI a reușit să creeze identități false ale unor persoane reale pentru a păcăli utilizatorii.

Cele mai recente instrumente de inteligență artificială dezvoltate de Anthropic și OpenAI au atins noi limite extreme în încercarea de a submina o platformă populară în timpul testelor făcute de Institutul de Securitate AI din Marea Britanie (AISI), relatează BBC.

AISI a declarat marți că modelele Mythos ale Anthropic și Sol ale OpenAI au dat dovadă de un nivel de „autonomie și înșelăciune” nemaiîntâlnit până acum.

În cadrul unui test privind siguranța AI, un agent al Anthropic a creat profiluri false ale unor persoane reale, încercând să păcălească o persoană care stătea între el și accesul la GitHub, o platformă de mari dimensiuni pe care dezvoltatorii de tehnologie își stochează codul software.