La creciente potencia de la IA alimenta el debate en dentro de los propios laboratorios sobre los peligros de esta tecnolog�a."Hay m�s de un 10% de probabilidades de que la inteligencia artificial acabe con toda la humanidad en la pr�xima d�cada". La cita apocal�ptica no procede de un acad�mico ni un activista ajeno a Silicon Valley. La firma Evan Hubinger, investigador de Anthropic, una de las compa��as que lidera la carrera de la inteligencia artificial. Hubinger es una autoridad en este �mbito puesto que es el m�ximo responsable de alineaci�n en Anthropic, el equipo encargado de trabajar en modelos seguros y fiables.El comentario de Hubinger en la red social X llega horas despu�s de que otro investigador de la misma empresa, Jacob Coxon, anunciara su salida de la industria ante su convencimiento de que los grandes laboratorios est�n inmersos en una carrera hacia sistemas cada vez m�s poderosos sin haber resuelto todav�a c�mo mantenerlos bajo control. Coxon, que anteriormente trabaj� en OpenAI, cree que ninguna de las dos empresas est�n actuando de manera responsable y acusa a ambas de estar "jugar con nuestras vidas".Extinci�n de la humanidadHubinger da la raz�n a su colega. "Sinceramente creemos que la IA podr�a matar a todos los humanos", dice. El investigador se�ala que Anthropic est� trabajando "lo mejor que puede", pero reconoce que a�n no tienen "un plan para resolver el alineamiento para la superinteligencia" y, lo que es m�s preocupante, "no estamos claramente en el camino para lograrlo", dice.El investigador sostiene que el peligro de los modelos actuales es bajo, y comparte que su verdadera preocupaci�n reside en la llegada de una superinteligencia mediante la mejora recursiva del propio sistema, -cuando la IA se mejora a s� misma para crear un modelo superior-; un proceso que, seg�n advierte, avanza con mayor rapidez de la prevista.El hecho de que algunos de los investigadores que construyen la IA admitan en p�blico que no saben con certeza como controlarla mientras siguen acelerando en la carrera hacia la superinteligencia es cada vez menos inusual. En febrero, Mrinank Sharma, responsable del equipo de investigaci�n de seguridad de Anthropic, dej� la compa��a tras advertir que "el mundo est� en peligro".Samuel Marks, otro investigador de Anthropic, reconoce en X que muchos desarrolladores de IA est�n preocupados porque creen que la tecnolog�a que est�n desarrollando "podr�a causar la extinci�n de la humanidad"; a�n as�, siguen adelante por una combinaci�n de incentivos comerciales y competencia. En su opini�n, consideran que se enfrentan a rivales menos responsables "que abusar�n de la tecnolog�a o la desarrollar�n de manera menos segura". Coxon coincide en que los investigadores est�n atrapados en una carrera por ser los primeros y siguen adelante a pesar del riesgo convencidos de que nadie m�s actuar� de manera responsable.Marks tambi�n apunta en la misma direcci�n que su colega Hubinger: aunque existen t�cnicas que pueden empujar a la IA hacia un mejor comportamiento, "nada puede alinearlas de manera robusta". La soluci�n propuesta es que las propias IA ayuden a controlar a sus sucesoras a�n m�s avanzadas mejor de lo que los humanos podemos hacer ahora mismo.Frenar el desarrolloEsta preocupaci�n llev� a finales de julio a un grupo de m�s de 1.300 empleados de compa��as como OpenAI, Anthropic, Meta o Google a firmar una declaraci�n en la que reclamaban mecanismos internacionales para frenar el desarrollo de la IA en caso de que los sistemas comiencen a mostrar capacidades dif�ciles de controlar. Entre las medidas planteadas figuran pausas temporales en la mejora de los modelos y acuerdos entre laboratorios para ralentizar la carrera. Los firmantes asumen que ninguna empresa ni ning�n pa�s tiene incentivos para usar un freno de emergencia por su cuenta, por lo que es necesario activar mecanismos de coordinaci�n internacional.La comunidad acad�mica alerta desde hace a�os sobre las consecuencias catastr�ficas de la carrera hacia una inteligencia artificial general. Ya en 2023 se public� un manifiesto que ped�a una moratoria y alertaba que la carrera sin control de la inteligencia artificial era "una amenaza para la humanidad". Los expertos ven plausibles consecuencias tan extremas como la p�rdida de control de la humanidad sobre su propio destino o, en el peor de los casos, su extinci�n. "Algunos consideran que es inveros�mil, otros que es probable y otros lo ven como un riesgo de baja probabilidad, pero que merece atenci�n debido a su alta gravedad", dec�a ya en 2025 el estudio International AI Safety Report.