"Pregunta lo que quieras", nos dice la página de apertura de ChatGPT. Toda una declaración de principios. Un nuevo genio de la lámpara que, lejos de concedernos tres deseos, nos ofrece respuestas para cuantas preguntas se nos ocurran. Los avances tecnológicos de las últimas décadas han hecho posible un acceso universal, inmediato y continuo a la información. También han transformado nuestra manera de relacionarnos con los demás. Antes de las plataformas digitales, la comunicación era esencialmente personalizada y la información seguía cauces relativamente estructurados: llamadas telefónicas y correos electrónicos con nuestros contactos, prensa, libros o medios de comunicación. Hoy una parte creciente de la información circula de forma horizontal, entre desconocidos, sin mecanismos claros de verificación ni responsabilidades definidas. Este nuevo ecosistema ha revelado además el enorme valor económico de la información. No sólo consumimos contenidos que influyen en nuestra visión del mundo; también generamos constantemente datos sobre nuestros hábitos, intereses y preferencias. Esos datos se han convertido en una mercancía estratégica que alimenta el marketing personalizado, amplía las posibilidades de vigilancia y plantea nuevos desafíos para la privacidad. La llegada de la inteligencia artificial generativa añade ahora dos fenómenos inéditos: la delegación del conocimiento y la delegación de la decisión. TE PUEDE INTERESAR Opinión Tradicionalmente, distinguimos dos formas de pensamiento, una rápida e intuitiva y otra lenta y analítica. La IA introduce una tercera modalidad, externa al individuo: el pensamiento artificial. Utilizada como herramienta complementaria puede ampliar nuestras capacidades. El problema aparece cuando deja de ser un apoyo para convertirse en un sustituto. A este fenómeno se le ha denominado "claudicación cognitiva" y se refiere a la tendencia a aceptar las respuestas de la IA sin someterlas a evaluación crítica. El riesgo no consiste únicamente en cometer errores, sino en dejar de ejercitar las capacidades que permiten detectarlos. Existe un paralelismo evidente con lo ocurrido con los sistemas de navegación GPS. Gracias a ellos llegamos a los destinos con mayor facilidad, pero muchos hemos perdido parte de nuestra capacidad de orientación espacial. Algo parecido puede suceder con la IA. Diversos estudios sugieren que su uso intensivo puede afectar a habilidades como la argumentación, el análisis crítico o la comprensión profunda de los textos. Cuanto menos ejercitamos esas capacidades, más dependemos de la herramienta que las sustituye. Un mecanismo que se retroalimenta. TE PUEDE INTERESAR Sin embargo, la relación con la IA no tiene por qué ser necesariamente sustitutiva. También puede funcionar como una forma de razonamiento asistido. En ese caso, la máquina no reemplaza el juicio humano, sino que lo complementa. Siguiendo con la analogía anterior, sería la diferencia entre conducir utilizando un GPS y viajar en un vehículo completamente autónomo. La segunda novedad es la delegación de decisiones. Las máquinas siempre han ampliado nuestras capacidades físicas, de memoria o de cálculo, pero normalmente no decidían qué hacer con esas capacidades. La IA ocupa una posición distinta porque, además de almacenar y organizar la información, también la interpreta, genera evaluaciones, realiza predicciones y propone cursos de acción. De este modo empieza a situarse en una zona intermedia entre la herramienta y el criterio. Todo ello plantea una cuestión fundamental: ¿qué grado de confianza merecen los conocimientos que produce? TE PUEDE INTERESAR Conviene advertir que la IA no trabaja directamente con la realidad, sino con los rastros digitales que deja esa realidad. En cierto modo opera como hacen los historiadores, que reconstruyen el pasado a partir de testimonios parciales y documentos cuya fiabilidad debe ser evaluada. La IA también interpreta el mundo a partir de enormes cantidades de información fragmentaria y de credibilidad variopinta producida por los seres humanos. Esto tiene una dimensión filosófica y otra práctica. La cuestión filosófica surge porque los modelos de IA operan fundamentalmente en términos de probabilidad. Pensemos en los sistemas de autocompletado de los procesadores de texto. Suelen acertar porque proponen la palabra más probable, pero a veces se equivocan porque no conocen realmente nuestra intención. Algo similar ocurre con muchas respuestas de la IA. Lo más probable suele ser una buena aproximación, pero no siempre coincide con lo verdadero. TE PUEDE INTERESAR Opinión La ciencia dispone de mecanismos muy eficaces para corregir errores. Un experimento, un descubrimiento o un contraejemplo pueden derribar consensos ampliamente aceptados. La IA, en cambio, habita un universo construido a partir de textos, imágenes y registros digitales. Su contacto con la realidad es indirecto. Por ello existe el riesgo de confundir frecuencia de los registros digitales con verdad o consenso con certeza. La dimensión práctica tiene que ver con los sesgos presentes en los datos de los que aprende la IA. La información disponible en Internet no constituye una muestra representativa de la realidad. Algunos acontecimientos reciben una atención desproporcionada, ciertas voces tienen mucha más presencia que otras y determinadas culturas o idiomas están ampliamente sobrerrepresentados. Además, la acumulación de datos no equivale a una mayor cantidad de información. Miles de páginas pueden repetir una misma fuente original. El volumen aparente de evidencia aumenta, pero la diversidad real de información permanece inalterada. El problema actual no es la escasez de datos, sino la dificultad para conocer su origen, independencia y calidad. Estos desafíos no nacen con la inteligencia artificial. Antes también obteníamos nuestro conocimiento a través de testimonios, libros, conversaciones o medios de comunicación susceptibles de contener errores y sesgos. La diferencia es que la IA amplifica simultáneamente varios factores que antes actuaban de forma separada. TE PUEDE INTERESAR Opinión El primero es el alcance. Las plataformas permiten llegar a cientos de millones de personas simultáneamente. Esto facilita la difusión de conocimientos valiosos y de alertas importantes, pero también multiplica el impacto de los errores y de la desinformación. El segundo es la inmediatez. Buscar información en libros, bibliotecas o medios especializados exigía tiempo, comparación de fuentes y esfuerzo intelectual. Ese proceso formaba parte del aprendizaje. Hoy obtenemos respuestas instantáneas. La ventaja es evidente, pero existe el riesgo de que la rapidez sustituya a la reflexión. El recurso escaso ya no es la información; es el criterio. El tercer factor es la concentración de las fuentes. Cuando una gran parte de la población consulta a un número muy reducido de sistemas que operan sobre bases de datos similares, aumenta la probabilidad de que los errores sean sistémicos. El problema no es que alguien se equivoque, sino que millones de personas cometan los mismos errores. TE PUEDE INTERESAR Opinión El cuarto factor es el factor institucional. Nuestra vida cotidiana descansa sobre mecanismos de confianza delegada. Confiamos en los bancos, los medicamentos o los aviones porque existen auditorías, supervisión, certificaciones y sistemas de responsabilidad bien establecidos. No verificamos personalmente cada operación bancaria ni cada componente de una aeronave. Confiamos en instituciones diseñadas para hacer razonable esa confianza. En el caso de la inteligencia artificial, esos mecanismos todavía no están desarrollados. No disponemos aún de sistemas internacionales de supervisión y certificación comparables a los que existen en ámbitos como las finanzas, la aviación o la seguridad alimentaria. La confianza social avanza más rápido que las instituciones encargadas de respaldarla. Todo ello conduce a una consecuencia especialmente relevante. Cuando millones de personas formulan preguntas similares a un número reducido de sistemas, es natural que reciban respuestas parecidas. Esa convergencia tiene ventajas, porque puede reflejar conocimientos sólidos y ampliamente contrastados. Pero también entraña riesgos. Por una parte, puede consolidar sesgos preexistentes y correlacionar errores. Por otra, puede favorecer una creciente uniformidad intelectual. El problema no es la existencia de consensos, sino la reducción del espacio para la discrepancia y el contraste. TE PUEDE INTERESAR Podríamos llamar a este fenómeno una pérdida de "biodiversidad cognitiva". Del mismo modo que la biodiversidad fortalece la resiliencia de los ecosistemas, la diversidad de perspectivas fortalece la capacidad de adaptación de las sociedades. En condiciones de incertidumbre, mantener enfoques alternativos funciona como una forma de seguro colectivo. La historia de la ciencia está llena de ideas inicialmente marginales que terminaron siendo decisivas. Las hipótesis alternativas tienen valor no sólo porque algunas acaban siendo correctas, sino porque obligan a poner a prueba las ideas dominantes. Como señaló John Stuart Mill, el contraste con opiniones discrepantes constituye una condición esencial para aproximarnos a la verdad. La inteligencia artificial ofrece oportunidades extraordinarias para ampliar nuestras capacidades de aprendizaje, análisis y comunicación. Pero también nos obliga a reflexionar sobre qué tareas estamos delegando y bajo qué condiciones lo hacemos. El desafío no consiste en elegir entre aceptar o rechazar estas tecnologías. Consiste en desarrollar las instituciones, los hábitos intelectuales y el espíritu crítico que permitan utilizarlas sin renunciar a aquello que las hizo posibles: nuestra propia capacidad de pensar. *Antonio Villar, profesor emérito de la Universidad Pablo de Olavide e investigador del Ivie.