O prédio do Superior Tribunal de Justiça (STJ) — Foto: Pablo Jacob / Agência O Globo O STJ vai investigar tentativas de fraude processual por meio da chamada “prompt injection” (injeção de comando), identificadas pelo tribunal em seu acervo de casos nas últimas semanas. Além de medidas de segurança implementadas desde a concepção do STJ Logos (sistema de IA generativa elaborado pelo tribunal) , a presidência da Corte definiu a instauração de inquérito policial e um procedimento administrativo para apurar os fatos. Também devem ser realizadas oitivas dos advogados e escritórios envolvidos, para eventual responsabilização no âmbito criminal e correicional. Recentemente, duas advogadas do Pará foram multadas em R$ 84 mil por recorrerem à artimanha e burlar o filtro de inteligência artifical da Justiça do Trabalho. O prompt injection é uma técnica que tenta enganar os modelos de IA, em especial os grandes modelos de linguagem. O ataque ocorre quando comandos são inseridos em documentos comuns, como petições ou recursos, de forma invisível ao olho humano. O STJ não informou quantas tentativas foram identificadas até o momento.
Mais recente
Próxima
Joaquim Barbosa e sua baixa presença nas redes
