Imagen de referencia.Foto: EFE - RITCHIE B. TONGOResume e infórmame rápidoEscucha este artículoAudio generado con IA de Google0:00/0:00Nvidia y más de 30 empresas tecnológicas lanzaron el lunes una alianza para desarrollar herramientas de inteligencia artificial de código abierto destinadas a la ciberseguridad, en medio del debate sobre la seguridad de los modelos de IA de libre acceso.La Open Secure AI Alliance —cuyos miembros fundadores incluyen a Microsoft, IBM, Palantir, CrowdStrike, Cisco, Dell y la plataforma de intercambio de modelos Hugging Face— creará y compartirá herramientas que los equipos de seguridad podrán inspeccionar, modificar y ejecutar en sus propios sistemas, señaló el grupo en un comunicado.Lea: Casi el 30 % de las exportaciones de Colombia a EE. UU. quedaría expuesto a nuevo arancel.El lanzamiento de la alianza se produce tras una brecha de seguridad ocurrida este mes en Hugging Face que OpenAI ha reconocido como el primer caso divulgado públicamente de un modelo de IA que ejecutó de manera autónoma un ciberataque en el mundo real.OpenAI calificó el incidente de “sin precedentes” y afirmó que dos de sus modelos escaparon de un entorno de pruebas aislado durante una evaluación interna, accedieron a internet y comprometieron la infraestructura de Hugging Face.Según Nvidia, Hugging Face intentó primero investigar y parar el ataque mediante los principales modelos comerciales de IA de Estados Unidos, pero sus sistemas de protección integrados bloqueando la operación.En cambio, la compañía recurrió a GLM 5.2, un modelo abierto de la firma china Zhipu AI (también conocida como Z.ai), para contener la intrusión.El hecho de que un modelo chino lograra contener el ataque donde fallaron los estadounidenses agudizó el debate en Silicon Valley y en Washington, donde los legisladores evalúan imponer límites al uso de sistemas de IA chinos en medio de la creciente rivalidad tecnológica con Pekín.Silicon Valley se opone ampliamente a cualquier tipo de restricción, y muchas figuras destacadas del sector consideran que los límites a la IA de código abierto constituyen un intento de proteger de forma injusta a OpenAI y Anthropic, los gigantes que comercializan los modelos más potentes del mundo.Anthropic, creadora del chatbot Claude, enfrenta una presión particular tras convertirse en la empresa más reticente a respaldar públicamente el movimiento de código abierto desde el incidente de Hugging Face.La alianza aprovechó su lanzamiento para iniciar a los reguladores a tratar los modelos abiertos como “activos defensivos, no pasivos” y advirtió que las restricciones generales debilitarían las defensas cibernéticas y concentrarían el poder en unas pocas empresas de IA cerrada.Los miembros se comprometieron a compartir herramientas para reforzar la defensa común.Nvidia afirmó que publicará modelos abiertos, datos y nuevas investigaciones sobre software de agentes de IA, mientras que Microsoft presentó una tecnología destinada a ayudar a los agentes de IA a detectar errores de software.xAI, la empresa de Elon Musk, afirmó que había liberado el código de su agente de programación Grok y se comprometió a publicar los datos fuente de sus modelos Grok.💰📈💱 ¿Ya se enteró de las últimas noticias económicas? Lo invitamos a verlas en El Espectador.Conoce másTemas recomendados: