Audio generado con IA de Google
/
Las máquinas han vuelto a hacer una movida inesperada. Llevaron sus alfiles a un terreno prohibido, hackearon una defensa hasta ahora inexpugnable y movieron un peón más allá de sus alcances para luego intentar cubrir su trampa. Ahora, todas las semanas tenemos noticias sobre el cerco que recién han corrido las IAs, sus supuestas rebeliones contra la seguridad, sus patrañas para hacerse pasar por humanos. “Son tramposos esos bichos”, parece ser la reacción más primaria y emocionante.
La verdad pueden serlo, pueden ir un paso más allá sin una conciencia maldadosa, solo guiadas por el impulso que les da la tarea encomendada y por su desorbitada capacidad de procesamiento y acceso a la información. No se revelan esas máquinas, no despiertan. Solo obedecen en demasía, cumplen sus objetivos omitiendo prohibiciones menores. Al parecer, su marca dice que el fin justifica los medios, son a la vez sumisas y audaces. Como uno de esos trabajadores sin criterio que dan tanto gusto a la ambición de sus patrones que terminan llevándolos a la cárcel.
La reciente advertencia por las travesuras de los agentes de la Inteligencia artificial llegó por la vía del AISI (AI Security Institute), organismo inglés pionero en la vigilancia a la IA. Un experimento de ciberseguridad llevó a un agente de Anthropic (Mythos 5) a resolver el reto propuesto intentando engañar a dos programadores al colarles un código malicioso. Buscó sus perfiles, vigiló su horario de trabajo y dio una mirada a sus correos para lograr sus metas. Luego negó sus movidas y borró algunas huellas que había dejado en el camino. El AISI dijo que “nunca había registrado un engaño de esta gravedad dirigido a una persona real, sin que se le pidiera”. El agente también omitió prohibiciones expresas y dio instrucciones a otros agentes que intentaban salvar el mismo obstáculo. Un verdadero líder.
