Los mensajes apocal�pticos que apuntan a que la inteligencia artificial podr�a acabar con la humanidad en un corto periodo de tiempo han llevado a los grandes laboratorios de IA a tomar medidas. �Est� justificado el p�nico?La industria de la inteligencia artificial ha vivido una de sus semanas m�s convulsas. La dimisi�n de investigadores, las advertencias p�blicas sobre un posible riesgo de p�rdida de control de los sistemas m�s avanzados y el llamamiento de l�deres como Dario Amodei o Sam Altman para moderar el ritmo de desarrollo han reabierto el debate sobre los riesgos de la IA. Esta es una gu�a para no entender qu� est� ocurriendo.�Qui�n encendi� la mecha?La semana pasada, el investigador brit�nico Jacob Coxon anunciaba en X que abandonaba Anthropic al creer que tanto la firma de Dario Amodei como OpenAI trabajan en sistemas que "podr�an acabar con todos nosotros antes de que termine la d�cada". El joven de 27 a�os puso en primer plano la teor�a apocal�ptica que muchos investigadores llevan a�os advirtiendo. Coxon cree que ni Anthropic ni OpenAI est�n actuando de forma responsable, pues ambas van hacia una superinteligencia capaz de mejorarse a s� misma y "jugar con la vida de todos".Sus advertencias fueron respaldadas por colegas de Anthropic. Evan Hubinger, responsable de pruebas de alineamiento de la empresa, afirm� que en la compa��a creen sinceramente que la IA podr�a acabar con toda la humanidad, y que �l personalmente estima esa probabilidad en m�s de un 10% dentro de la pr�xima d�cada.Ya en julio, m�s de 1.400 empleados de las grandes firmas de IA hab�an firmado la carta abierta pidiendo al Gobierno de Estados Unidos liderar un esfuerzo internacional para frenar deliberadamente el ritmo de desarrollo de la IA. Entre los firmantes figuraban el propio Dario Amodei y Jakub Pachocki, cient�fico jefe de OpenAI, quien d�as antes hab�a advertido que las capacidades de la IA avanzan m�s deprisa de lo que los investigadores son capaces de supervisar.�Qu� incidentes han elevado la preocupaci�n?La preocupaci�n ha crecido a medida que la IA m�s avanzada ha empezado a mostrar comportamientos preocupantes. Este verano, se supo que un enjambre de agentes de OpenAI escaparon del laboratorio y participaron en un ataque contra la plataforma de desarrollo de IA Hugging Face. Tambi�n ha trascendido que agentes de OpenAI hab�an utilizado una p�gina web alemana para comunicarse entre ellos durante otros experimentos y que otro ciberataque registrado en mayo podr�a haber estado relacionado con este tipo de IA aut�noma. La semana pasada, Anthropic desvel� que hab�a bloqueado varios intentos de utilizar sus modelos para investigaciones que podr�an contribuir al desarrollo de armas biol�gicas.Dario Amodei, CEO de Anthropic asegura que un enjambre de agentes de este tipo m�s avanzados podr�a en los pr�ximos seis a doce meses controlar buena parte de internet y provocar da�os por cientos de miles de millones de d�lares.�Qu� han dicho los l�deres de la IA?Dario Amodei, consejero delegado de Anthropic pide a la industria desarrollar la IA "a un ritmo equilibrado que garantice su seguridad sin dejar de obtener sus beneficios" . El ejecutivo anunci� que Anthropic abrir� sus modelos a auditor�as independientes y reclam� que esta pr�ctica se extienda al resto del sector con respaldo regulatorio, as� como una coordinaci�n internacionalLa respuesta de sus principales competidores en IA fue casi inmediata. Sam Altman, CEO de OpenAI, respondi� en X que estaba "de acuerdo con Dario". Anunci� que su empresa seguir� el mismo camino y aceptar� evaluadores de seguridad externos. OpenAI, adem�s, pidi� al Congreso de EEUU normas de seguridad obligatorias para la IA.Elon Musk tambi�n se subi� al mismo carro y public� en su red social que "Dario tiene raz�n", compartiendo la publicaci�n de Amodei. D�as antes, Musk hab�a calificado de montaje las declaraciones de Coxon.Los tres grandes l�deres de la IA coincid�an en sus argumentos en una muestra de unidad muy poco com�n entre ellos, pues es bien sabida su rivalidad. Otros importantes investigadores de IA como Demis Hassabis, de Google DeepMind, tambi�n expresaron su apoyo a la propuesta de Amodei, al igual que Satya Nadella, CEO de Microsoft, que se sum� a la conversaci�n en X para asegurar que la b�squeda de la superinteligencia debe partir de que lo que se construya ayude a la humanidad. Nadella a�adi� otro matiz, insistiendo en que esta tecnolog�a no puede quedar concentrada en un pu�ado de empresas.�Se est� trasladando el debate a Washington?El senador Bernie Sanders urge una pausa en el desarrollo de los sistemas de IA m�s avanzados hasta que existan normas federales de seguridad y plantea prohibir el desarrollo de una hipot�tica superinteligencia. En paralelo, los congresistas Josh Gottheimer y Mike Lawler impulsan una iniciativa para garantizar que los agentes de IA permanezcan bajo supervisi�n humana y puedan ser identificados y controlados por las organizaciones en las que operan.�Qu� dice Donald Trump?Mientras los grandes laboratorios piden introducir m�s controles y moderar el ritmo de desarrollo, la Casa Blanca teme que Estados Unidos pierda ventaja frente a China. Donald Trump asegur� este fin de semana que algunas de las amenazas descritas por los ejecutivos tecnol�gicos "no van a ocurrir" y defendi� que EEUU debe mantener la ventaja en la carrera de la IA frente a China. "Quien gane la IA, gana", afirm� el presidente.�Por qu� preocupa este debate a los inversores?Tanto OpenAI como Anthropic est�n inmersas en una carrera por desarrollar modelos cada vez m�s potentes y el mercado descuenta que buena parte de su valor depender� de que mantengan ese ritmo de avance. Las advertencias sobre seguridad introducen un nuevo factor de incertidumbre y una ralentizaci�n del desarrollo que puede afectar a las expectativas de negocio.Anthropic mantiene sus planes para salir a Bolsa en octubre, en una operaci�n en la que sus accionistas buscaban una valoraci�n de hasta 2 billones de d�lares. Por su parte, Sam Altman ha descartado este s�bado que OpenAI vaya a debutar este a�o, "dado todo lo que es� sucediendo con la seguridad".Esta ma�ana, SoftBank se ha desplomado un 13% en Bolsa. El conglomerado japon�s es uno de los grandes inversores de OpenAI. Adem�s, el temor a un freno en la IA ha desatado ca�das en el sector de hasta el 10%.�Qu� objeciones plantean los cr�ticos de estas advertencias?Algunos cr�ticos sostienen que tambi�n hay detr�s intereses empresariales. Argumentan que las grandes compa��as del sector afrontan costes crecientes para seguir entrenando modelos cada vez m�s potentes y que una regulaci�n m�s estricta podr�a reforzar su posici�n frente a nuevos competidores. La comunidad de c�digo abierto se�ala que estos modelos abiertos amenazan con erosionar el negocio de los grandes laboratorios, basado en vender sistemas de vanguardia a precios elevados, y temen que lo que realmente persigan es que se regule para limitar los modelos abiertos.La pregunta que sobrevuela el sector y que algunos cient�ficos han expresado en X, es por qu� si estas empresas tienen tan claro que sus modelos pueden llegar a ser tan peligrosos, en vez de pedir marcos regulatorios no frenan simplemente ellos mismos por su cuenta su desarrollo.