El rápido avance de las inteligencias artificiales (IA) provoca una sensación cada vez más común: la impresión de que están empezando a pensar. Sus respuestas son fluidas, coherentes y, en ocasiones, parecen reflejar emociones. No resulta extraño que muchos sospechen que estas tecnologías poseen algún tipo de conciencia. Esta pregunta, sin embargo, no es nueva. Hace más de 70 años, el matemático Alan Turing propuso un criterio para evaluar la inteligencia de las máquinas. Según el llamado “Test de Turing”, si una persona mantiene una conversación con una máquina y no puede distinguirla de un ser humano, entonces tendría sentido considerarla inteligente. Durante décadas, esta idea resultó muy influyente. Después de todo, ¿qué mejor evidencia de inteligencia podría existir que comportarse exactamente como un ser inteligente?Pero en 1980 el filósofo John Searle presentó una crítica que sigue siendo relevante. Su famoso experimento mental, conocido como “el cuarto chino”, busca demostrar que una máquina podría parecer inteligente sin comprender realmente nada.Searle nos pide imaginar una persona encerrada en una habitación. Esta persona no sabe chino, pero dispone de un manual que le indica cómo responder a determinados símbolos chinos con otros símbolos chinos. Desde afuera, los hablantes nativos reciben respuestas coherentes y concluyen que quien está dentro comprende el idioma. Sin embargo, la persona simplemente sigue reglas mecánicas sin entender el significado de los símbolos. La conclusión de Searle es que la manipulación de símbolos –la sintaxis– no produce por sí sola comprensión –la semántica–.La analogía resulta interesante hoy porque las inteligencias artificiales funcionan de manera parecida. Aunque sus mecanismos son mucho más complejos que un simple manual, operan procesando símbolos y detectando patrones estadísticos. Durante su entrenamiento aprenden qué palabras suelen aparecer juntas y cuando generan una respuesta predicen cuál es la continuación más probable de una secuencia de texto. El operador del cuarto chino y la inteligencia artificial realizan esencialmente la misma tarea: transformar símbolos de entrada en símbolos de salida siguiendo reglas mecánicas.Por supuesto, el resultado puede ser extraordinariamente convincente. Muchas IA probablemente ya superan el Test de Turing. Pero precisamente aquí cobra fuerza la objeción de Searle: ¿es posible que estemos confundiendo una simulación con comprensión? La creciente tendencia a atribuir conciencia a las inteligencias artificiales probablemente revela más sobre los seres humanos que sobre las máquinas. Estamos biológicamente programados para detectar intenciones en aquello que nos rodea. Cuando una IA conversa con fluidez nuestro cerebro le atribuye una vida mental que quizás no existe.El Test de Turing nos enseñó que el comportamiento importa. “El cuarto chino” nos recuerda que esto no es suficiente. En una época en la que las máquinas hablan cada vez mejor, la cuestión ya no es si pueden parecer conscientes. La cuestión es saber reconocer la diferencia entre una mente auténtica y una imitación perfecta. (O)