La inteligencia artificial ha dejado de ser un simple instrumento al servicio de las personas para convertirse en un sistema capaz de perseguir objetivos con un grado creciente de autonomía. Ese cambio de paradigma obliga a replantear cuestiones jurídicas, éticas y sociales que hace apenas unos años pertenecían casi exclusivamente al terreno de la ciencia ficción.“Ya no hablamos de herramientas; hablamos de agentes relativamente autónomos”, sostiene Gabriel Fernández, profesor de Filosofía de la Facultad de Humanidades de la UIC Barcelona y especialista en las implicaciones sociales y éticas de la inteligencia artificial. A su juicio, el debate ya no gira únicamente en torno a qué puede hacer la IA, sino “cómo consigue sus objetivos”, un aspecto que considera esencial desde el punto de vista ético. “La ética no trata solo de alcanzar un fin, sino de la manera en que lo hacemos”, resume.Probablemente avancemos hacia una responsabilidad compartida”Dimitri SierraAbogado experto en derecho digital de Andersen IberiaEse cambio también transforma la forma de entender la responsabilidad jurídica. Dimitri Sierra, abogado experto en derecho digital de Andersen Iberia, descarta que pueda señalarse a un único culpable cuando un sistema de inteligencia artificial actúa de forma inesperada. “Probablemente avancemos hacia una responsabilidad compartida”, explica. En ella intervendrán desarrolladores, empresas implantadoras, proveedores y usuarios, de forma similar a lo que ocurre en otros ámbitos complejos, como la investigación de accidentes de aviación, donde rara vez existe una única causa.Ambos coinciden en que el desafío no consiste únicamente en aprobar nuevas leyes, sino en hacerlas efectivas. Sierra considera que Europa ha reaccionado con rapidez al aprobar un marco regulatorio, aunque advierte de que el verdadero reto será supervisar su cumplimiento. “¿De qué sirve tener un reglamento si nadie comprueba que las empresas lo aplican?”, se pregunta. En su opinión, la transparencia ya no puede entenderse como una cuestión de reputación corporativa, sino como una obligación legal para quienes desarrollan e implantan estos sistemas.La legislación siempre irá por detrás de la vida”, reconoce, “pero al menos debemos disponer de información que permita actuar antes”Gabriel FernándezProfesor de Filosofía de la Facultad de Humanidades de la UIC Barcelona y especialista en las implicaciones sociales y éticas de la inteligencia artificialFernández comparte la necesidad de reforzar la regulación, pero insiste en que también será imprescindible observar y medir los efectos reales de la inteligencia artificial sobre la sociedad. Recuerda que recientemente un grupo de economistas, entre ellos varios premios Nobel, reclamó recopilar datos sobre su impacto para evitar que las administraciones reaccionen únicamente cuando los problemas ya se han producido. “La legislación siempre irá por detrás de la vida”, reconoce, “pero al menos debemos disponer de información que permita actuar antes”.El filósofo cree además que uno de los ámbitos menos estudiados es el de las llamadas inteligencias artificiales relacionales, diseñadas para ofrecer compañía, amistad o incluso simular vínculos afectivos. Advierte de que este tipo de aplicaciones “pueden tener un efecto devastador en la sociedad” si no se investigan adecuadamente sus consecuencias psicológicas y sociales antes de su expansión masiva.Frente a los escenarios más alarmistas, ambos expertos defienden que la convivencia con sistemas inteligentes será posible siempre que exista una supervisión adecuada. Sierra recuerda que ya existen mecanismos técnicos para limitar las capacidades de estos agentes, dividir funciones, registrar todas sus acciones mediante “cajas negras” o incluso incorporar un “botón de pánico” que permita detener inmediatamente su actividad cuando sea necesario. “Siempre habrá accidentes, como los hubo con el ferrocarril o con el Titanic, pero debemos intentar estar preparados”, afirma.El gran reto, concluyen, será preservar los principios que sustentan nuestras sociedades cuando las máquinas sean capaces de tomar decisiones cada vez más complejas. Para Fernández, si algún día una inteligencia artificial llega a proponer una solución impecable desde un punto de vista lógico, pero inaceptable moralmente, “deberán prevalecer siempre la ética y la moral”. Sierra coincide desde la perspectiva jurídica: ninguna decisión automatizada puede situarse por encima de los derechos fundamentales ni del marco legal que la sociedad se ha dado. Ahí, sostiene, seguirá estando el límite que ninguna máquina debería cruzar.Martí Paola Balbastre es periodista y presentador del programa Claves del día de La Vanguardia, un espacio informativo que analiza la actualidad con rigor y perspectiva crítica