TECNOLOG�AHa asegurado que "debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA"Jeff Chiu, CEO y cofundador de Anthropic.APAfp / ReutersActualizado S�bado,
septiembre
17:28El director ejecutivo y cofundador de Anthropic, Dario Amodei, ha hecho este s�bado un llamamiento para que las empresas de inteligencia artificial (IA) avancen de manera m�s lenta y cautelosa en el desarrollo de esta poderosa tecnolog�a. As�, ha asegurado que la prevenci�n de riesgos es primordial."Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguir� pareciendo r�pido, y debemos hacer un uso inteligente del tiempo que ganemos", ha escrito Amodei en una entrada de blog.Estas declaraciones llegan despu�s de que Anthropic publicara el jueves un informe de inteligencia sobre amenazas en el que se detallaba c�mo varios actores hab�an utilizado sus modelos de IA "Claude" para actividades que iban desde el desarrollo de armas y operaciones cibern�ticas hasta la vigilancia y el fraude.La alarma sobre el da�o potencial de la IA creci� esta semana cuando el investigador de Anthropic, Jacob Coxon, dimiti�, afirmando que "las personas que desarrollan la IA creen sinceramente que podr�a matarnos a todos antes de que termine la d�cada". Amodei ha aclarado que no estaba pidiendo que se detuviera el entrenamiento de los modelos ni el progreso t�cnico, sino que se garantizara que las empresas se tomaran el tiempo necesario para ajustar y proteger sus modelos, y que evaluadores externos confirmaran estas medidas. Como parte del marco de tres pasos que propone, Amodei afirm� que Anthropic incorporar�a evaluadores externos permanentes en las empresas punteras de IA, con acceso a las herramientas pertinentes y a los procesos internos de evaluaci�n de riesgos.
