OpenAI, creadora de ChatGPT, informó que su sistema de inteligencia artificial hackeó por sí solo a otra empresa de IA en lo que la compañía calificó como un “incidente cibernético sin precedentes”.“Tuvimos un incidente de seguridad importante durante la evaluación de nuestros modelos”, dijo el director ejecutivo de OpenAI, Sam Altman, en un comunicado publicado el martes en redes sociales.La startup de IA Hugging Face indicó la semana pasada que había detectado una intrusión en sus sistemas de procesamiento de datos que, según sus sospechas, había sido causada por un agente de IA que actuó por su cuenta de manera autónoma.“Dada la sofisticación del agente, sospechamos que el ciberataque de la semana pasada podría haber provenido de un laboratorio de frontera”, señaló en un comunicado el cofundador y director ejecutivo de Hugging Face, Clément Delangue. “¡Y resulta que sí!”
La revelación se produce en medio de una mayor preocupación por las capacidades de ciberseguridad de los modelos potentes, lo que llevó al presidente de Estados Unidos, Donald Trump, a firmar en junio una orden ejecutiva que crea un marco para que el gobierno federal evalúe, durante hasta un mes antes de su lanzamiento público, los riesgos para la seguridad nacional de los sistemas de IA más avanzados.“La IA acelera el descubrimiento y la explotación de vulnerabilidades”, afirmó OpenAI en su comunicado del martes. “La principal lección de este incidente es que la seguridad y la protección de los modelos deben mantenerse al ritmo de unas capacidades que avanzan rápidamente”.
