La inteligencia artificial avanza con rapidez en áreas como la medicina, la educación y la ciencia.

(Imagen Ilustrativa Infobae)Un investigador en activo y un exempleado de Anthropic coinciden en que la inteligencia artificial podría provocar la extinción de la humanidad antes de que concluya esta década. La advertencia surge en el contexto de una renuncia pública que encendió el debate sobre los límites del desarrollo tecnológico en las principales empresas del sector. Evan Hubinger, investigador de Anthropic que dirige los trabajos de orientación y control de futuros sistemas de inteligencia artificial, salió al paso de la dimisión de su colega Jacob Coxon para respaldar abiertamente sus preocupaciones. “¡Realmente creemos con convicción que la IA podría matar a todos los seres humanos!”, escribió Hubinger en declaraciones públicas. PUBLICIDADA eso sumó una estimación concreta: la probabilidad de que la IA cause la extinción de la especie durante los próximos 10 años supera, a su juicio, el 10%. Anthropic es una empresa estadounidense de investigación y desarrollo de IA enfocada en la seguridad, la confiabilidad y la alineación de los modelos.

REUTERS/Dado Ruvic Coxon, por su parte, presentó su renuncia tras señalar que Anthropic y su rival OpenAI compiten por desarrollar tecnologías que, en sus palabras, “podrían acabar con todos nosotros antes de que termine la década”. Que un investigador activo de la compañía haya respaldado públicamente esa postura minutos después de hacerse pública la salida de Coxon le otorga un peso inusual a la advertencia. PUBLICIDADUna de las preocupaciones centrales entre quienes estudian la seguridad de los sistemas de inteligencia artificial es la posibilidad de que modelos futuros, con capacidades muy superiores a los actuales, persigan objetivos que no coincidan con los intereses humanos. Ahora bien, si esos sistemas alcanzan un nivel de autonomía suficiente antes de que existan mecanismos de control eficaces, las consecuencias podrían ser irreversibles. El debate no es nuevo, pero adquiere otra dimensión cuando quienes lo plantean trabajan desde dentro de las empresas que construyen esas tecnologías. PUBLICIDADUna preocupación central en la seguridad de la IA es que modelos futuros, con capacidades muy superiores a las actuales, persigan objetivos que no coincidan con los intereses humanos.