0:000:00El audio de esta noticia está generado mediante Inteligencia ArtificialLa aparición de modelos avanzados de inteligencia artificial (IA) generativa supone un grave riesgo para la estabilidad financiera mundial por su gran capacidad de alterar sustancialmente la velocidad y la escala de los ataques cibernéticos, lo que podría socavar la confianza del mercado en todo el sistema. Esta es una alarma importante que el presidente del Consejo de Estabilidad Financiera (FSB, por sus siglas en inglés), Andrew Bailey, que asimismo es gobernador del Banco de Inglaterra, ha puesto sobre la mesa de sus colegas del G-20. Los gobernadores de los bancos centrales y ministros de Finanzas de los principales países del mundo se hallan reunidos estos días en Asheville (Carolina del Norte, EE.UU.) para abordar la situación económica y financiera global y, además, celebrar una reunión de trabajo con los principales líderes de las compañías tecnológicas. Se trata de estudiar la adopción de mecanismos de defensa para garantizar el funcionamiento del sistema financiero global frente a las nuevas amenazas también globales. Es una cuestión de enorme prioridad porque todo el sistema financiero se basa en anotaciones informáticas.Los modelos de IA de vanguardia tienen una autonomía y capacidades de resolución de problemas y de detección de amenazas cada vez mayores, pero también implican riesgos enormes si se llegan a descontrolar o se usan maliciosamente. En su carta, Bailey ha advertido que los riesgos asociados con la IA no respetarán las fronteras nacionales. Las interrupciones cibernéticas pueden propagarse entre países a través de los proveedores de tecnología comunes y la infraestructura compartida.Especialmente preocupante es el primer ataque autónomo y coordinado –sin intervención humana– de varios sistemas de IA de OpenAI contra el sistema interno de la biblioteca de algoritmos Hugging Face registrado en julio. La investigación realizada por el instituto de evaluación de riesgos IA METR, una institución independiente, ha determinado que dos modelos de IA de la compañía OpenAI se escaparon de su zona de control para acceder a la red por propia iniciativa y coordinar, desde ahí, la actuación de 688 agentes de OpenAI para atacar la citada plataforma sin ningún tipo de intervención humana. Los llamados agentes de IA son programas independientes que tienen asignadas diversas tareas para realizar con autonomía propia.La estabilidad del sistema financiero está amenazada por ciberataques de gran dimensiónOtras compañías, como Anthropic y Chinois Mooshot AI han registrado también escapes no controlados de sus sistemas de IA. Todos estos hechos han incrementado la inquietud ante la incapacidad de las grandes compañías tecnológicas para controlar sus sistemas de IA. Estos hechos parecen de ciencia ficción, pero son reveladores de los riesgos de una IA descontrolada. De ahí el llamamiento de Andrew Bailey para proteger adecuadamente el sistema financiero internacional, tanto de los eventuales ataques autónomos de la IA como dirigidos.Pero no solo hay que proteger mejor este sistema, también los hospitales, las bibliotecas, las universidades y todas las infraestructuras estratégicas de energía, agua y otros servicios básicos, incluida la defensa, merecen esa atención especial. Este llamamiento a una mayor protección ha surgido de los propios dirigentes de más de cien compañías tecnológicas, incluidas todas las grandes menos Meta y las de China. Piden a los gobiernos que impulsen una respuesta global para fortalecer las ciberdefensas de todo el sistema ante el riesgo de ataques mucho más generalizados y sofisticados con IA avanzada.Crecen las voces para establecer sistemas de protección ante los nuevos riesgos tecnológicosEsos temores que exponen, sin embargo, no impiden que dichas grandes compañías de la IA sigan desarrollando aceleradamente sistemas cada vez más potentes, sin ningún control, avaladas por los enormes beneficios que obtienen de los mismos, tanto por su venta a empresas como a estados y ejércitos. Los beneficios económicos, sociales y científicos que aporta la IA son innumerables. Pero la humanidad ha creado también un monstruo que puede escapar a su control. De momento, salvo tímidamente en Europa, no existen mecanismos para supervisar el desarrollo y aplicación de la IA, que está en manos de tan sólo unas cuántas grandes compañías. Hoy son las más rentables del mundo, además, ya que precisamente han multiplicado sus beneficios estos últimos años desde la irrupción de la IA.El jefe de la diplomacia francesa, Jean-Noël Barrot, ha propuesto instaurar a nivel mundial una “disciplina de la IA” que se centre en la evaluación de los modelos antes de su desarrollo, su vigilancia después de su puesta en servicio y el intercambio de información entre estados. Pero, de momento, la IA avanza muy por delante de la regulación. El G-20 analizará como proteger al sector financiero. Es un primer paso.