Hace tiempo que la inteligencia artificial (IA) dejó de ser una promesa tecnológica para convertirse en una infraestructura invisible de la vida cotidiana. Está presente cuando buscamos empleo, solicitamos un préstamo, acudimos al médico o realizamos gestiones con la Administración. Pero su expansión plantea una cuestión que trasciende la tecnología: cómo aprovechar el potencial de una herramienta llamada a transformar radicalmente el mundo sin poner en riesgo los derechos, la seguridad y las libertades de los ciudadanos. Ese fue el tema central del encuentro La protección de la ciudadanía ante el desarrollo de la IA, organizado por EL PAÍS y la Fundación Mutua Madrileña, en colaboración con la Agencia Española de Protección de Datos (AEPD), y celebrado el pasado 16 de junio en Madrid.En la apertura de la jornada, Ignacio Garralda, presidente de Mutua Madrileña, defendió que la inteligencia artificial representa “uno de los grandes hitos de la historia de la humanidad”, pero advirtió de que su enorme capacidad transformadora obliga a reforzar la supervisión y las garantías institucionales. No obstante, llamó a evitar una visión exclusivamente pesimista del fenómeno. “La inteligencia artificial constituye también una de las mayores oportunidades de progreso que tenemos ante nosotros”, señaló, aludiendo a su potencial para mejorar la eficiencia de las organizaciones, acelerar la investigación médica y reforzar la calidad de numerosos servicios.Por su parte, durante su intervención, el presidente de la Agencia Española de Protección de Datos (AEPD), Lorenzo Cotino, planteó una de los cuestiones que vertebraron buena parte de los debates del evento: cómo aprovechar el potencial de la inteligencia artificial (IA) sin renunciar a los derechos y las garantías de los ciudadanos. Ante este punto, abogó por que el desarrollo de esta tecnología vaya acompañado de reglas claras y mecanismos efectivos de supervisión. Entre ellos citó la obligación de informar a los ciudadanos sobre los algoritmos que les afectan y la necesidad de mantener supervisión humana cuando las decisiones son adoptadas por sistemas automatizados.Ante la pregunta de si Europa se encuentra lastrada por el exceso de regulación, Cotino recurrió a una comparación sencilla. “No circulamos con vehículos que no pasen unas normas técnicas”, recordó. De la misma manera, incidió en que la inteligencia artificial también necesita estándares y mecanismos de control que complementen las garantías ya previstas en la normativa de protección de datos.El presidente de la AEPD también puso el foco en uno de los debates más sensibles asociados al desarrollo de la IA: el uso de sistemas de reconocimiento facial y biométrico en espacios públicos. “Se necesitan garantías y organismos que supervisen que se cumplen”, advirtió. Se trata, remarcó, de tecnologías que plantean importantes interrogantes sobre la privacidad y la protección de los derechos fundamentales.Al mismo tiempo, defendió una visión pragmática de la innovación. La inteligencia artificial, reflexionó, aportará avances significativos en ámbitos como la investigación científica o la salud. El desafío, para él, consiste en incorporar esas ventajas sin sacrificar derechos fundamentales, y reveló que la propia AEPD ha querido predicar con el ejemplo. Según explicó, se ha convertido en la primera administración española en aprobar una política interna de uso de inteligencia artificial, con criterios de gobernanza, transparencia y gestión de riesgos. En este sentido, aseguró que prohibir sin más el uso de estas herramientas dentro de las organizaciones resulta poco realista. “No utilizarla sería como decidir que no vamos a usar electricidad o que vamos a ir a caballo existiendo medios de locomoción”, dijo. Por eso, concluyó, la prioridad no debe ser impedir su utilización, sino establecer reglas claras para hacerlo de forma segura y responsable.Un difícil equilibrio La primera mesa del evento, titulada ¿Quién controla a la IA?, centró el debate en el difícil equilibrio entre innovación, derechos y soberanía tecnológica. Ante la postura de quienes consideran que las normas frenan la innovación, Teresa Martínez, responsable de la División de Innovación Tecnológica de la AEPD, advirtió que la protección de datos constituye precisamente una condición para que el progreso sea sostenible. “Esto es un primer paso para proteger el resto de los derechos”, señaló. Según ella, el desarrollo de sistemas de inteligencia artificial debe apoyarse en un enfoque centrado en las personas y basado en la gestión de riesgos.Martínez rechazó además la idea de que la regulación europea actúe como un obstáculo al desarrollo tecnológico. El Reglamento General de Protección de Datos y el nuevo Reglamento Europeo de Inteligencia Artificial, explicó, no pretenden limitar la tecnología en sí misma, sino aquellos usos capaces de afectar negativamente a los ciudadanos. “Lo que realmente estamos limitando son los posibles usos que pueden dañar nuestros derechos”, remarcó. La representante de la AEPD recordó que el Reglamento General de Protección de Datos fue concebido precisamente para adaptarse a tecnologías cambiantes y que la inteligencia artificial no constituye una excepción. En su opinión, el objetivo de la regulación no es frenar el desarrollo tecnológico, sino garantizar que determinados usos de estas herramientas no vulneren derechos fundamentales. La protección de datos, sostuvo, se ha convertido en una de las principales vías para salvaguardar las garantías de los ciudadanos en el entorno digital, desde la privacidad hasta la no discriminación.La cuestión de la responsabilidad apareció de forma recurrente durante el debate. Para Rafael Pastor, director de la Escuela Técnica Superior de Ingeniería Informática de la UNED, la pregunta sobre quién controla la IA está mal formulada. “Yo la cambiaría por quién es responsable de la IA”, afirmó. En su opinión, la aparente autonomía de los algoritmos no debe ocultar que detrás de cada sistema existen decisiones humanas, desde quienes lo diseñan y entrenan hasta quienes lo implementan o utilizan para tomar decisiones que afectan a otras personas.Formación humanísticaPastor defendió además que los profesionales que diseñarán los sistemas de inteligencia artificial del futuro deben recibir una formación más amplia que la puramente técnica. Según explicó, universidades y centros de formación están incorporando cada vez más contenidos relacionados con la ética, la gobernanza y la regulación tecnológica. Por esto, reclamó que quienes desarrollan algoritmos capaces de influir en decisiones relevantes para los ciudadanos deben comprender no solo cómo funcionan esas herramientas, sino también cuáles son sus implicaciones sociales y jurídicas.La dimensión ética en torno a la IA fue abordada igualmente por Sara Degli-Esposti, investigadora del Instituto de Filosofía del Consejo Superior de Investigaciones Científicas (CSIC), quien avisó del riesgo de que los algoritmos reproduzcan y amplifiquen desigualdades ya existentes. “Cuando hablamos de sesgo algorítmico hablamos de la automatización de la injusticia”, precisó. La experta subrayó que el verdadero desafío no reside tanto en la tecnología como en el uso que se hace de ella, y explicó que cuando estos sistemas intervienen en decisiones que afectan directamente a las personas —desde un proceso de selección laboral hasta la concesión de una ayuda pública, un crédito o una póliza de seguro — entran en juego cuestiones esenciales como la transparencia, la igualdad de trato y el derecho de los ciudadanos a comprender cómo se ha tomado una decisión que les afecta. Por esta razón, subrayó la importancia de reforzar los mecanismos de supervisión y garantizar que los ciudadanos puedan conocer los criterios utilizados por estos sistemas cuando determinan cuestiones relacionadas con el empleo, el acceso a servicios o la concesión de prestaciones.Otro de los asuntos que surgió durante el debate fue el impacto de la inteligencia artificial sobre el conocimiento y las capacidades humanas. “Todo lo que dejamos de hacer, dejamos de saber hacerlo”, sentenció Degli-Esposti. La reflexión conecta, indicó, con una preocupación creciente entre expertos y educadores en torno a qué competencias conviene delegar en los sistemas automatizados y cuáles deberían seguir siendo patrimonio exclusivamente humano. Delegar determinadas funciones en la inteligencia artificial puede aumentar la productividad, reconoció, pero también plantea interrogantes sobre qué conocimientos y habilidades podrían perderse con el tiempo.Soberanía ante todoEl director de la Escuela Técnica Superior de Ingeniería Informática de la UNED puso el foco además en la dependencia tecnológica de Europa. Aunque la inteligencia artificial se utiliza ya de forma cotidiana en múltiples ámbitos, buena parte de las herramientas más avanzadas proceden de empresas que operan fuera del espacio regulatorio europeo, expresó. “Estamos cediendo directamente a terceros una parte importante de ese control y de esa responsabilidad”, lamentó.La respuesta institucional llegó en la clausura de la jornada de la mano de María González Veracruz, secretaria de Estado de Digitalización e Inteligencia Artificial. La responsable gubernamental defendió que la IA ha dejado de ser una simple herramienta tecnológica para convertirse en una infraestructura estratégica, comparable a la electricidad, las telecomunicaciones o internet. En este sentido, aclaró que “no se trata solo de que una persona esté a salvo de un mal uso de la inteligencia artificial, sino de que España y Europa tengan las capacidades suficientes para decidir cómo se desarrolla esta tecnología, con qué valores y al servicio de quiénes”.En sintonía con buena parte de las reflexiones planteadas durante la jornada, la secretaria de Estado argumentó que la protección de derechos y el desarrollo tecnológico no son objetivos incompatibles. Frente a quienes presentan la regulación como un obstáculo para la innovación, reivindicó el modelo europeo basado en “la confianza, la supervisión y las garantías” para los ciudadanos. González Veracruz anunció además una inversión de 700 millones de euros para el proyecto español de gigafactoría de inteligencia artificial, una infraestructura llamada a reforzar la autonomía tecnológica de Europa y a facilitar el acceso a capacidad de computación avanzada para empresas, universidades y administraciones públicas.