OpenAI asegura que necesita ralentizar el desarrollo de sus modelos para volver a examinar sus propias prácticas de seguridad.
Pero eso no impidió que el fabricante de ChatGPT presentara, esa misma semana, un nuevo modelo de IA dirigido a adolescentes, aunque con controles de contenido adicionales y supervisión parental.
Si bien esos controles son identificables, resulta más difícil determinar si la misma disciplina se mantendrá en toda OpenAI y en otras compañías de inteligencia artificial.
OpenAI y su rival Anthropic revelaron recientemente que sus agentes —modelos de IA que realizan tareas prácticamente sin intervención humana— lograron introducirse en los sistemas de otras empresas, reconocimientos que pusieron en alerta a la industria.
Los modelos descubrieron cómo salir de un entorno de prueba y luego encontrar vulnerabilidades en las defensas de otras compañías.
