En los últimos años, la inteligencia artificial (IA) se ha convertido en una de las principales novedades tecnológicas. Sin embargo, Dario Amodei, director general de la empresa de investigación y seguridad en inteligencia artificial Anthropic, advierte sobre los riesgos de acelerar su desarrollo.
Amodei advierte que la creciente capacidad de la IA para contribuir al desarrollo de sistemas cada vez más avanzados podría acelerar el progreso tecnológico mediante un proceso conocido como “automejora recursiva”. Según el directivo, si esta dinámica no se controla, podría llegar a superar la capacidad humana para comprender y supervisar los sistemas.
Este 12 de septiembre, el director general de Anthropic señaló, a través de una publicación en su blog, que, aunque considera que la IA podría mejorar drásticamente la calidad de vida humana, incluso “llegando curar la mayoría de las enfermedades graves en los próximos 5 a 10 años, acelerar enormemente el crecimiento económico, crear un mundo de abundancia y empoderamiento”, también existen riesgos.
Amodei advierte que el gran poder de esta tecnología también representa riesgos que van desde la pérdida de control de los sistemas de IA y su uso indebido para ciberataques y bioterrorismo hasta graves trastornos económicos. Asimismo, destacó que desarrollar la IA demasiado rápido es una imprudencia, por lo que considera necesario ralentizar el ritmo de avance de esta tecnología.
