Jacob Coxon, investigador de IA de 27 años, renunció esta semana a Anthropic, la empresa que desarrolla Claude. También había trabajado en OpenAI. Su despedida se viralizó por una alerta: ambas empresas compiten por construir una IA que pueda mejorarse a sí misma, aunque creen que podrían perder el control y provocar la extinción humana, según su relato. Lo más llamativo fue la respuesta de quienes siguen en la empresa. Evan Hubinger, responsable de ciencia de alineamiento en Anthropic, estimó en más de un 10% la probabilidad de que la IA termine matando a todos los humanos durante la próxima década. Es su estimación personal, pero su trabajo es investigar cómo evitar que estos sistemas actúen contra nuestras intenciones. Reconoció que aún no tienen un plan para controlar una superinteligencia. Samuel Marks, también de Anthropic, confirmó que esa preocupación es real. Pero los incentivos comerciales y la convicción de que los competidores serán menos responsables empujan a seguir adelante. Suena a película clase B hasta que uno intenta entender qué están diciendo. ¿Cómo es que una IA nos podría matar? El escenario no requiere un Terminator con ganas de exterminarnos. Supone un sistema autónomo que, para cumplir un objetivo, encuentre conveniente conseguir más recursos, evitar que lo apaguen o engañar a quienes lo supervisan, aunque perjudique a las personas. El daño puede empezar en algo tan concreto como un hospital o una planta de agua: en agosto, más de cien empresas advirtieron sobre ataques informáticos potenciados por IA contra servicios esenciales. Pero ¿no nos daríamos cuenta? Es que las propias IAs podrían desarrollar las siguientes generaciones y acelerar el proceso hasta que perdamos la capacidad de entenderlas y controlarlas.