0:000:00El audio de esta noticia está generado mediante Inteligencia ArtificialSam Altman no ha dejado de expresar su inquietud sobre la evolución de la IA en las últimas 48 horas, desde que un ex ingeniero de Anthropic expresara su alarma porque esta tecnología podría acabar con la Humanidad. Un día después de explicar que no sería apropiado que su empresa, OpenA,I saliera ahora a bolsa, el director ejecutivo de la compañía ha admitido en su cuenta en X serias preocupaciones de seguridad sobre la inteligencia artificial.Altman ha explicado que “hay dos formas en que el progreso de la IA podría salir muy mal y que debemos evitar”. La primera de ellas es que “podríamos perder el control del futuro ante la IA”. Y ha añadido: “esto es inaceptable”.“Estamos sin reservas del lado de la Humanidad, y la IA debe siempre servir a las personas”, ha añadido. Según el líder de OpenAI, “para garantizar eso, necesitamos formas de asegurar que las técnicas de alineación y seguridad se mantengan por delante del progreso en las capacidades de los modelos”.“Si una IA muy poderosa es utilizada por una persona o empresa, los resultados podrían ser extremadamente distópicos”.La segunda amenaza es que “podríamos terminar en un mundo con demasiada concentración de poder”. “Si una IA extraordinariamente poderosa —ha reflexionado—es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos”.Por eso ha comentado que “evitar estas dos amenazas requiere caminar por un angosto camino intermedio; por ejemplo, un país podría ganar demasiado poder. Otro ejemplo es un laboratorio terminando con demasiado poder”. En ambos casos, todo tiene muchas posibilidades de que ocurra en Estados Unidos.En esa línea, Altman ha indicado que “el mundo merece tener la confianza de que las empresas estadounidenses que desarrollan IA cada vez más capaz actuarán de manera responsable, especialmente ahora que la trayectoria del progreso se ha acelerado”. “Cada laboratorio de frontera —ha propuesto—debe cumplir con esto, y no hay razón por la que ninguno de nosotros deba ir a trabajar si no podemos hacerlo”.Lo que sugiere Altman es un marco legal federal en Estados Unidos “que establezca requisitos de seguridad consistentes para la IA de frontera —modelos más avanzados—“, pero no considera que haya que esperar una legislación o medida gubernamental antimonopolio “para comenzar el trabajo de brindar esta confianza”.La propuesta del líder de OpenAI es que se apliquen “reglas consistentes para gestionar el riesgo de frontera” de modo que se puedan maximizar los beneficios”. Altman dice que le entusiasma la idea de que haya auditores independientes para controlar la aplicación de esas normas. Habla el ejecutivo de una colaboración entre empresas: “creemos que estándares compartidos para desalineación, monitoreo y seguridad conducirán a mejores resultados. Esperamos con interés colaborar con nuestros colegas en toda la industria para formular la mejor versión de estos”.Lee tambiénAunque ese control del ritmo, para Altman, no significa “detenerse”, pese a que admita que debe ir a menor velocidad. “El progreso ha sido rápido y continuará siéndolo. Pero debería ser más lento de lo que podría ser de otra manera; intervenciones como casos de seguridad y monitoreo tienen costos significativos”,ha observado. “El ritmo valdrá bien este costo; ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia, ni permitir que las capacidades se adelanten al alineamiento y monitoreo”.Por último, el director ejecutivo de OpenAI ha reclamado la ayuda del gobierno federal de Estados Unidos “para la coordinación internacional”. “Pero primero —ha concluido—debemos hacer lo que podamos nosotros mismos”.Licenciado en Periodismo por la UAB. Redactor de La Vanguardia desde 1996. Ha cubierto las áreas de Política, Deportes y Comunicación. Especializado en tecnología. Autor del libro 'Bicicletas para la mente' (Península)