Desenvolvida pela startup brasileira Forlex, a OAB (Ordem dos Advogados do Brasil) começou a oferecer plataforma gratuita para identificar riscos em documentos utilizados por ferramentas de inteligência artificial na rotina da advocacia. Batizada de OpenDetector, a solução faz parte do PNIAA (Plano Nacional de Integração da Inteligência Artificial na Advocacia), criado pela entidade para orientar o uso seguro da tecnologia no exercício profissional.
A plataforma identifica tentativas de prompt injection, técnica em que documentos ou mensagens carregam instruções ocultas capazes de alterar o comportamento de modelos de inteligência artificial durante a análise de informações, além de detectar ataques de jailbreak, usados para contornar mecanismos de segurança de assistentes virtuais.A ferramenta também gera relatórios para auditoria e rastreabilidade das análises. O lançamento ocorre em um momento de rápida expansão do uso de IA por escritórios e departamentos jurídicos, que passaram a recorrer à tecnologia para pesquisas, elaboração de petições e análise documental.
O avanço, porém, também ampliou a preocupação com falhas de segurança e com a confiabilidade das respostas produzidas pelos modelos, especialmente quando documentos enviados por terceiros podem conter comandos capazes de influenciar o processamento das informações. Nas próximas semanas, o OpenDetector também deverá incorporar uma funcionalidade para identificar alucinações de inteligência artificial, verificando a existência de citações, jurisprudências e dispositivos legais mencionados nas respostas geradas por esses sistemas.
