La start up de inteligencia artificial m�s valiosa del mundo se�ala que el 80% de su propio c�digo ya lo escribe su IA.Anthropic propone a los grandes laboratorios de inteligencia artificial que acuerden un mecanismo coordinado para frenar o pausar el desarrollo de esta tecnolog�a si los sistemas son capaces de mejorarse a s� mismos sin intervenci�n humana. La compa��a advierte de que ese escenario podr�a llegar antes de lo que la sociedad est� preparada para gestionar sus efectos.La start up no pide un pausa unilateral, que reconoce que ser�a contrapoducente, sino un acuerdo entre varios laboratorios en la frontera tecnol�gica, con condiciones verificables de activaci�n y supervisi�n externa. La compa��a establece un paralelismo con los tratados nucleares, con la complicaci�n en este caso de que "las rondas de entrenamiento son mucho m�s f�ciles de ocultar que los silos de misiles". Los autores del post reconocen que el incentivo para incumplir un hipot�tico acuerdo en este sentido es enorme, puesto quien contin�e desarrollando mientras otros frenan puede tomar la delantera en la carrera tecnol�gica.Anthropic se�ala que la automejora recursiva, como se conoce t�cnicamente la capacidad de la IA de mejorarse a s� misma, no ha ocurrido todav�a y tampoco es inevitable, pero propone que se construya el mecanismo de freno antes de que se llegue a este escenario, donde la IA podr�a escapar del control.La empresa aporta datos propios para ilustrar la velocidad del avance, y se�ala que m�s del 80% del c�digo que integra en su propio desarrollo est� escrito por su IA Claude, mientras que en febrero de 2025 esa cifra se situaba en el rango de un d�gito bajo. Salida a BolsaLa advertencia llega en un momento significativo para la compa��a, que ha presentado el folleto confidencial de su solicitud de salida a Bolsa en Estados Unidos. Anthropic es la start up de IA m�s valiosa del mundo, por delante de OpenAI, tras cerrar recientemente una ronda de financiaci�n que la valor� en 965.000 millones de d�lares.Anthropic ha trasladado en los �ltimos meses la percepci�n de que su IA es tan potente y potencialmente peligrosa, que es mejor dar un acceso controlado a sus herramientas m�s avanzadas como Claude Mythos. Algunos analistas han apuntado que este tipo de mensajes han contribuido a proyectar una imagen de superioridad tecnol�gica.Hace tres a�os, miles de investigadores y empresarios firmaron un manifiesto solicitando una moratoria en el desarrollo de la IA, que no prosper�, ante lo que defin�an como una carrera sin control para desarrollar y desplegar herramientas cada vez m�s poderosas que "nadie, ni siquiera sus creadores, puede entender, predecir o controlar de forma fiable". La propuesta de Anthropic no es una pausa temporal, sino un mecanismo verificable que permita frenar el desarrollo si los sistemas alcanzan la capacidad de mejorarse a s� mismos sin intervenci�n humana.Los investigadores de seguridad alertan desde hace a�os sobre las consecuencias catastr�ficas de la carrera hacia una inteligencia artificial general sin mecanismos de control. Uno de los escenarios hipot�ticos m�s graves es que el sistema llegue a ser capaz de operar fuera del control humano, sin que exista una manera clara de recuperarlo.