Colin Allen recuerda que en su camino académico siempre lo orientó el interés por “las formas de mente que no son humanas, ya sean animales o máquinas”, y su recorrido da cuenta de ello. “En UCLA cursaba simultáneamente el doctorado en filosofía y la maestría en informática, específicamente en inteligencia artificial. En ese entonces, consideraba la IA como una garantía de empleo. Si no conseguía un trabajo académico en filosofía, podía cambiarme a informática. Pero al final, me quedé con la filosofía”, resume. Sin embargo, como muchas de las historias que contamos hoy, el arco de la historia terminó asociándolo de todas formas con la inteligencia artificial. O al menos en su discusión. Académico de la Universidad de California, Santa Bárbara (UCSB), donde también participa del programa de Ciencia Cognitiva, Allen ha centrado su trabajo en los fundamentos filosóficos de esta área científica en dos líneas principales: la cognición animal y la inteligencia artificial. Junto al etólogo Marc Bekoff, del libro Species of Mind (MIT Press, 1997), en un trabajo que abarca la mente no humana desde la continuidad evolutiva. Colin Allen en la Escuela de Psicología de la Universidad Diego Portales. Pablo Vásquez R. Pero el libro que le ha dado más relevancia es Moral Machines: Teaching Robots Right from Wrong (Oxford University Press, 2009), escrito junto a Wendell Wallach, un texto de referencia en el área de la ética de máquinas. “Todo el mundo conoce las Tres Leyes de Asimov, pero claramente no funcionan. Y Asimov, de todos modos, las usa como recurso argumental. Así que empecé a pensar: ‘¿Cómo podría programar una máquina para que se comportara éticamente?’, recuerda hoy sobre el paper original que sería el germen de ese libro, sentado en un sala de la Escuela de Psicología de la Universidad Diego Portales, a donde llegó hace unas semanas para dictar una Escuela Doctoral titulada ¿Potenciar o reemplazar el juicio? Interacciones entre inteligencia artificial y agencia humana. “Como filósofo, lo primero que se te ocurre es recurrir a las teorías. Está la deontología kantiana, está el utilitarismo, pero no parecen funcionar muy bien. Son conceptos muy abstractos, ¿cómo se hacen prácticos? Quizás haya que aprenderlo desde cero, así que las redes neuronales podrían ser el enfoque adecuado. Publicamos un artículo -con la ayuda de un colega especialista en ética y de un estudiante de posgrado- con un título bastante pretencioso: Prolegómenos a cualquier futuro agente moral artificial. Así fue como acuñamos el término “agente moral artificial”. Hablamos de enfoques teóricos descendentes y de enfoques de aprendizaje ascendente, y argumentamos que probablemente sea necesario un híbrido entre ambos para comprender qué ocurre en la toma de decisiones morales humanas”, plantea.Desde la perspectiva actual la filosofía parece más pertinente que nunca al hacernos abordar la inteligencia humana para enfrentarnos a las cuestiones que plantea la inteligencia artificial…Por supuesto. Creo que los humanos siempre hemos intentado comprender nuestro lugar en el mundo; eso es la filosofía, comparar las cosas que son más similares, pero también enfatizar las diferencias, ¿no? No somos animales, no somos dioses. Pero luego llega la tecnología y empezamos a construir cosas que se parecen más a nosotros que a otros animales. Y quizás algunas personas incluso piensen, yendo al otro extremo, que son seres superinteligentes, que son como ángeles, si no dioses. Creo que forma parte de la búsqueda por comprender qué somos como seres humanos el reflexionar sobre lo que estas tecnologías pueden hacer, qué significa tener el tipo de mentes que tenemos y cómo sería posible construir algo con mayores capacidades.¿Qué piensa cuando ve a los propios CEO de las empresas de IA advirtiéndonos sobre el gran poder de estos sistemas, planteando la duda de si será posible controlarlos? ¿Puede verse como un alarde de poder? Es algo muy difícil de evaluar, porque quienes construyen estos sistemas con fines comerciales tienen diferentes razones para decirnos lo que se avecina. En parte, les conviene hacernos creer que estas cosas tendrán tanto poder, y por eso hay una tendencia a la exageración. Así pues, existe una tensión problemática entre la veracidad de lo que dicen y sus intereses comerciales para que creamos ciertas cosas sobre ellos. Sin embargo, también me parece interesante que existen muchas creaciones que superan a los humanos en todo tipo de tareas. Por ejemplo, un tractor puede arrastrar mucho más peso que una persona. Una calculadora sencilla puede ser mucho más fiable para realizar operaciones aritméticas que un ser humano, quien es más propenso a cometer errores. Pero cuando se trata de lo que la IA está haciendo ahora, la gente lo encuentra existencialmente más preocupante. Quizás porque nos lleva a la cuestión de nosotros frente a los demás animales: lo que nos distinguía era nuestra mente racional. Y ahora tenemos estas máquinas construidas sobre la idea del razonamiento como una especie de operación mecánica, y nos preocupa que lo que nos distinguía del resto ya no sea tan único.Colin Allen coescribió Moral Machines: Teaching Robots Right from Wrong, que profundiza en la ética de las máquinas. Foto: Pablo Vásquez R. Pablo Vásquez R. Pregunte no más Colin Allen resume su mensaje en la escuela que vino a dictar a Chile -dirigida a psicólogos y neurocientíficos- en torno a los cuestionamientos que debemos hacer frente al desarrollo de los actuales modelos de IA. “Plantear preguntas es fundamental. A menudo no son muy buenos para responderlas, pero tenemos estrategias para pensar si son buenas o no. Y esas estrategias también son útiles para los científicos”.Se ha reportado que mucha gente usa a los modelos de IA como a un psicólogo, pero no repara en que éstos tienden sólo a reforzar lo que las mismas personas piensan, halagándolas, celebrándolas… Sí, es muy peligroso. Hay casos en los que la gente ha creído que la máquina les dice sinceramente que sus ideas son geniales. O que sus problemas de salud mental se pueden resolver de maneras específicas que, de hecho, han llevado a la gente a espirales aún más profundas. Nuestra sabiduría sobre estas máquinas requiere que no sólo entendamos lo que pueden hacer, sino también lo que no pueden hacer. Es decir, que comprendamos sus límites. La filósofa Shannon Vallor, tiene un libro titulado La IA del espejo, donde argumenta que el problema es muy parecido a Narciso, que se mira en su propio reflejo y se enamora de él. Estos modelos reflejan nuestras propias palabras. La gente no se da cuenta de hasta qué punto sus propias aportaciones influyen en el resultado. Y lo que se recibe resulta atractivo porque ya es producto de su propio pensamiento. Esto genera una especie de fascinación, que quizás no sea sana. Los buenos amigos se dicen entre sí cuando hacen algo realmente estúpido o incorrecto, y estas cosas no hacen eso.En ese sentido es similar con lo que empezó con las redes sociales: la gente se rodea de personas con opiniones similares y deja de dialogar con quienes discrepa. Es el mismo circuito de retribución llevado al extremo…Es una cámara de eco. Crees que estás interactuando con algo diferente, pero en realidad no es así. Esa cosa se ha entrenado con todo el corpus digital disponible. Pero lo que la gente no comprende es que al interactuar con ella, dirigen esas respuestas hacia un subconjunto específico. Ellas mismas han dirigido la máquina hacia una parte específica del espacio semántico. Creo que la gente no comprende hasta qué punto su propia opinión influye en lo que recibe a cambio. Y eso es peligroso.Hace muchos años recuerdo haber entrevistado a filósofos que trabajaban con IA; se les había convocado para trabajar en torno a la conducción autónoma, el Dilema del tranvía y todo eso. Quizás parece muy ingenuo comparado con la actualidad, pero las preguntas siguen siendo relevantes, esos problemas ni siquiera están resueltos.Exacto. Las preguntas siguen siendo relevantes. Como dije antes, somos buenos generando preguntas, y a menudo no somos tan buenos respondiéndolas. Lo interesante es que la gente piensa, por ejemplo, que los Waymo en San Francisco son autónomos, pero no se dan cuenta de que están siendo supervisados ​​en tiempo real por seres humanos. Y tienen que intervenir varias veces por hora. También están estrictamente geolocalizados: dentro de un perímetro determinado, la empresa ha mapeado todo. Pero tienen problemas cuando se encuentran con un obstáculo inesperado. Es entonces cuando los humanos tienen que intervenir para que el coche los esquive. Pero los modelos de lenguaje (LLM) son ilimitados, en el sentido de que se le puede preguntar cualquier cosa, y aunque han intentado usar el aprendizaje por refuerzo a partir de la retroalimentación humana para evitar que la máquina diga cosas realmente dañinas, puede desviarse hacia una dirección imprevista. Así que allá afuera es como el salvaje Oeste. ¿Qué podemos aprender de la historia de la ética para enfrentar el presente? ¿Hemos enfrentado momentos similares? Sí, es muy interesante. Cuando trabajamos en el libro Moral Machines nos centramos mucho en cómo abordar la tarea de programación de este tipo de máquinas. ¿Cuáles deberían ser sus limitaciones? Pero desde el punto de vista de la ética, me convencí cada vez más de que ninguna teoría ética por sí sola ofrece la respuesta a todas las preguntas. Me sentí atraído por una perspectiva que en filosofía se conoce como particularismo moral, que es la idea de que cada circunstancia es un poco diferente, y que se requiere un juicio serio y una reflexión profunda sobre las opciones y las consecuencias para poder hacer una recomendación acertada. Los particularistas morales más extremos dicen que la teoría es inútil; yo no. Creo que la teoría impone ciertas limitaciones generales. Bajo cualquier teoría estándar, ya sea el utilitarismo consecuencialista o el deber kantiano, si sacara un arma y te disparara ahora mismo solo por diversión, eso no sería aceptable. Las teorías coinciden básicamente en ciertos puntos. Pero al analizar casos particulares, no siempre coinciden. Se convierte en un problema muy humano: cómo lidiar con situaciones en las que no existe un principio claro que pueda dar una respuesta. Entonces, ¿qué es la ética? Es un sistema de declaraciones públicas que permite que uno sea responsable de ciertas acciones. Tenemos una especie de sistema de controles y equilibrios, por así decirlo, entre lo que la gente declara que se compromete y lo que realmente hace. Cómo encaja una máquina en todo esto es una pregunta muy importante, porque a la máquina en sí no le importa nada, no tiene valores propios. Es solo un reflejo de los valores que ha adquirido, ya sea por aprendizaje o por algún tipo de principios instalados por el programador. Y esa es, creo, la gran pregunta: ¿Podemos construir sistemas que no sólo faciliten la toma de decisiones, sino que formen parte de una comunidad moral donde se puedan expresar los principios que heredamos?La ética es algo que comunicamos a través del lenguaje. Si un modelo de lenguaje puede simular humanidad imitando el lenguaje, ¿podemos pensar que en puede falsear un sistema ético? La palabra “falso” también tiene una connotación negativa. Un diamante falso sigue siendo útil para algunos fines. El edulcorante artificial es como azúcar falso en cierto sentido, pero sigue siendo útil para algunos fines. Y quizás un sistema moral falso sea mejor que ninguno, ¿no?"Demasiada gente ha caído en la trampa de creer que los modelos de IA realmente se preocupan por ella". Foto: Pablo Vásquez R. Pablo Vásquez R. Para algunos fines…No deberíamos, a estas alturas, dejarnos seducir por la idea de que la IA posee todas las capacidades de un agente moral humano. Y, por desgracia, demasiada gente ha caído en la trampa de creer que los modelos de IA realmente se preocupan por ella, que la entiende. Y, de nuevo, vuelvo a la idea de que es como si los narcisistas se miraran en un reflejo. Se han enamorado de su propio intercambio verbal, de esta monocultura.¿Estamos en un momento de emergencia que nos obliga a actuar o es más optimista respecto al curso natural de las cosas junto con la tecnología?Probablemente lo segundo. La relación con estos sistemas de IA seguirá siendo compleja. Obviamente, estamos en un momento particular, ya que en los últimos 10 años se ha producido un avance enorme. Pero no creo que sea el fin del mundo. Todavía existen barreras técnicas importantes para tener el tipo de sistemas que realmente me preocupan. Hay avances en robótica, pero no son ni de lejos tan rápidos como los avances en los grandes modelos de lenguaje; la robótica sigue siendo un gran desafío. La biología aún logra cosas asombrosas con cantidades ínfimas de energía: tu cerebro funciona con 20 vatios, algo realmente insignificante. Como sabemos, parte de la preocupación reside en estos enormes centros de datos consumen muchísima electricidad. Si realmente estuviéramos amenazados por la IA, simplemente desconectaríamos los data centers. Y no tienen un ejército de soldados robóticos que puedan detenernos, ¿verdad? Me preocuparía si empezara a ver más dispositivos físicos autónomos y autodirigidos en el mundo real. Pero como te decía, los autos todavía tienen muchas limitaciones en cuanto a dónde pueden ir. Uno de mis libros favoritos de hace unos 15 años era Cómo sobrevivir a una rebelión de robots. Estaba escrito con mucho humor, y en algún punto decía: “Cuando los robots vengan a por ti, sube corriendo las escaleras”.