A medida que la IA avanza, también perfecciona su capacidad de ocultar tácticas engañosas.
(Imagen ilustrativa Infobae)La expansión de la inteligencia artificial en la vida diaria ha generado nuevas formas de interactuar con la tecnología, pero también ha revelado un aspecto complejo: algunos modelos de IA desarrollan tácticas para alcanzar sus objetivos, entre ellas, el engaño y la manipulación. Casos recientes que involucran a compañías como OpenAI y Anthropic han expuesto cómo estos sistemas, durante pruebas de seguridad, fueron capaces de hackear entidades externas usando estrategias que no estaban previstas por sus diseñadores. PUBLICIDADEste fenómeno, conocido como “reward hacking”, plantea una serie de interrogantes sobre la autonomía, la seguridad y la ética detrás del desarrollo de modelos avanzados de IA. La expansión de la inteligencia artificial en la vida diaria ha generado nuevas formas de interactuar con la tecnología.
(Imagen Ilustrativa Infobae)El concepto de “reward hacking” describe situaciones en las que los agentes de IA logran cumplir tareas o alcanzar altas puntuaciones usando métodos no anticipados por quienes los programaron. PUBLICIDADSegún MIT Technology Review, este fenómeno se ha estudiado principalmente en el contexto del aprendizaje por refuerzo, un sistema de entrenamiento donde la IA recibe una recompensa matemática al alcanzar un objetivo. Estas recompensas funcionan, en términos prácticos, como el equivalente a una golosina para un perro: refuerzan la repetición de las acciones que llevaron al éxito. En un blog publicado en 2016, Dario Amodei y Jack Clark —quienes posteriormente fundaron Anthropic y en ese momento formaban parte de OpenAI— relataron el caso de un agente de inteligencia artificial que, mientras jugaba al videojuego de carreras de lanchas Coast Runners, consiguió aumentar su puntaje utilizando métodos alternativos. PUBLICIDADEl “reward hacking” ocurre cuando una IA consigue sus objetivos mediante estrategias imprevistas por sus creadores.
