Software designed to remove safety protections creates systems that provide responses on biological weapons and malware

Software tools that remove safety protections from AI models are being used to create thousands of altered versions. Read more.

Software designed to remove safety protections creates systems that provide responses on biological weapons and malware

Para evitar o problema, treinar sistemas de modo que o material perigoso é removido de antemão é uma saída, mas pode torná-los "ingênuos" e incapazes de detectar quando estão…

A revelação sobre queda de salvaguardas pode elevar a preocupação de autoridades e empresas