La manipulación puede ocurrir a través del consumo cotidiano de contenidos, como escuchar un pódcast.
(Imagen ilustrativa Infobae)Los asistentes de voz y chatbots pueden ser manipulados a través de señales de audio que resultan imperceptibles para el oído humano. Un grupo de especialistas en seguridad informática ha evidenciado que este tipo de sonidos, ocultos en pódcast, videos de YouTube o llamadas de voz, son capaces de activar acciones no autorizadas en los sistemas de inteligencia artificial basados en audio. La técnica, denominada AudioHijack, representa una amenaza que pone de manifiesto nuevas vulnerabilidades en la tecnología de asistentes virtuales y plataformas de IA conversacional. PUBLICIDADInvestigadores de la Universidad de Zhejiang, la Universidad Nacional de Singapur y la Universidad Tecnológica de Nanyang presentaron un método innovador que aprovecha señales ocultas en archivos de audio convencionales. La técnica, denominada AudioHijack, representa una amenaza que pone de manifiesto nuevas vulnerabilidades en la tecnología de asistentes virtuales.
(Imagen ilustrativa Infobae)Estas señales, aunque no pueden ser detectadas por el oído humano, tienen la capacidad de controlar modelos de lenguaje de audio y provocar conductas definidas por quien diseña el ataque. PUBLICIDADLa técnica, bautizada como AudioHijack, muestra que bastan apenas 30 minutos de entrenamiento para crear una señal utilizable en cualquier momento y contexto. Según Meng Chen, candidato a doctor en la Universidad de Zhejiang, la independencia contextual de la señal permite que el atacante elija cuándo y cómo influir sobre el modelo objetivo, sin importar la interacción legítima del usuario. Este hallazgo, presentado en el Simposio de Seguridad y Privacidad del IEEE en San Francisco, revela que la amenaza es transversal a distintos tipos de archivos y plataformas. PUBLICIDADLos asistentes de voz y chatbots pueden ser manipulados a través de señales de audio que resultan imperceptibles para el oído humano.
