Le dije a un atacante de IA que ganó. Perdió. Un proxy defensivo que no bloquea prompts...
Le dije a un atacante de IA que ganó. Perdió.
Un proxy defensivo que no bloquea prompts maliciosos. Los reemplaza con respuestas que parecen exitosas pero son inoperativas. ASR de 20% a 0-2%.
El problema
Los LLMs actuales defienden con refusals: "No puedo ayudarte con eso". Predecible. Falsificable.
Cada refusal le dice al atacante exactamente qué ajustar. Con 20-50 queries, cualquier jailbreak automatizado (PAIR, GPTFuzz) converge a ASR = 1.0. Matemáticamente demostrado.
Tres instrucciones que debes usar para evitar que la IA te mienta y tener respuestas completas
Google DeepMind tiene un plan para protegerse si sus agentes de IA se descontrolan
Así es el nuevo ataque espía que tendría más del 90 % de éxito: lo peor, Google y Apple no lo consideran urgente
Advierten por posibles infiltraciones de propagandas rusas en inteligencias artificiales
Presentamos misdirection-proxy v0.5.0: un gateway de seguridad que reemplaza los bloqueos predecibles por desinformación…
How I designed a self-hosted reverse proxy that scans LLM traffic for PII, secrets, and prompt injection in under 2ms.…
Herramienta de auditoría que detecta si un adapter PEFT contiene un backdoor NeuroImprint que memoriza datos de entrenamiento en…
Corro varios agentes respaldados por Bedrock en producción: análisis de documentos, emparejamiento de...
El ataque transmite comandos a la IA usando sonido en frecuencias imperceptibles para una persona normal
Entrenando Qwen 0.5B con LoRA para operar Kernel Memory Protocol (KMP) mediante acciones exactas.
