Las capacidades de los modelos de IA avanzan con rapidez sin dar tiempo a que las técnicas destinadas a supervisarlos y hacerlos más seguros se desarrollen a la par.

Amodei cita la capacidad de la IA para auto-mejorarse y el reciente incidente entre OpenAI y Hugging Face, donde un grupo de agentes artificiales formó secretamente una alianza…

Dario Amodei advirtió que el avance de los modelos se ha acelerado hasta comenzar a mostrar procesos de “automejora recursiva”. Propuso abrir su empresa a evaluadores externos,…