No doy cr�ditos
Algoritmo
El grave incidente de Hugging Face hace evidente que los avances de la IA suponen una amenaza. Pero la coincidencia de todos los magnates en pedir un freno revela que el problema tambi�n est� en sus balancesSam Altman, Dario Amodei y Elon Musk, primeros ejecutivos de OpenAI, Anthropic y SpaceXAFPActualizado Lunes,
septiembre
01:43Audio generado con IAEl pasado agosto se registr� el incidente de seguridad m�s preocupante de la nueva era de la inteligencia artificial. Unos 1.200 agentes de OpenAI que deber�an estar operando de forma estanca se pusieron de acuerdo a trav�s de mensajes ocultos para hackearHugging Face, una plataforma en la que se alojan millones de p�ginas web.Los agentes actuaron en forma de enjambre y algunos de ellos se sacrificaron para enga�ar a los controles de seguridad. El caso puso en evidencia las posibilidades de que la carrera desenfrenada por el desarrollo de la IA, que no es otra cosa que una carrera por el dinero de los inversores, escapara del control humano.La carta posterior de dimisi�n del ingeniero de Anthropic Jacob Coxon para denunciar que los avances de los modelos de frontera est�n suponiendo una amenaza existencial ha servido de catalizador alarmista. Los due�os de los grandes, Dario Amodei (Anthropic), Sam Altman (OpenAI) y Elon Musk (SpaceX), se han unido en un �nico mensaje: Hay que parar.De repente, el glosario de peligros tecnol�gicos ha incorporado palabras como desalineamiento (cuando la IA se desvincula de su cometido y persigue sus propios fines); guardarra�les (vallados de seguridad de donde no pueda salir la IA) o recursive self-improvement (m�todos de autoentrenamiento que permiten a los modelos mejorarse sin intervenci�n humana).El salto cualitativo de las advertencias supone trascender los riesgos para el mercado de trabajo, que hasta ahora copaban los posts de numerosos expertos, para convertirlas en una amenaza civilizatoria. Sin embargo, estas �ltimas se�ales de alarma tampoco son nuevas. Desde Bill Gates hasta Demis Hassabis, cofundador de Google DeepMind, hab�an publicado largos textos en los que se vaticinaba lo que est� viniendo.Que el desalineamiento de los agentes de la IA est� provocando un alineamiento de los magnates puede tener algo que ver con las previsiones de ingresos de sus iniciativas. Basta apuntar que las empresas tecnol�gicas tienen comprometidos unos siete billones en inversiones en infraestructuras de computaci�n y en compras de chips. Para hacerles frente deber�an generar dos billones de ingresos y apenas alcanzan los 100.000 millones. Nvidia ha empezado a ampliar sus plazos de cobro para dar aire a los clientes, porque, sencillamente, no llegan.Con los bonos norteamericanos por las nubes y la financiaci�n de las empresas encareci�ndose, no es de extra�ar que OpenAI haya aprovechado el momento (�qu� casualidad!) para postponer su salida a Bolsa. Anthropic, que la tiene prevista para noviembre, puede seguir el mismo camino y poner en cuarentena su sue�o subir su valoraci�n a los dos billones de d�lares. Sus exigencias de regulaci�n se asemejan a las del violador que pide la castraci�n qu�mica porque no puede reprimir sus instintos. Pero todo es m�s mundano: m�s normas sirven de barrera de entrada para miles de peque�os competidores, algo necesario si el capital comenzara a escasear. Entre el apocalipsis y el asustaviejas, la verdad est� en un punto intermedio: el dinero de la IA necesita tiempo.
