Hay un momento en que una herramienta deja de ser un utensilio. Es cuando uno se pregunta si el implemento trabaja para uno o para otro. Con un martillo eso no ocurre nunca, pero con la inteligencia artificial (IA), ocurre. Y cuando ocurre, algo se rompe que es muy difícil de reparar.
Esto me pasó a mí, y lo cuento porque creo que le puede pasar a cualquiera.
Soy analista geopolítico y de IA con décadas de experiencia; uso estos sistemas todos los días. Los conozco bien, o creía conocerlos.
El problema que todo el mundo conoce y el problema que nadie conoce
Cuando la gente habla de los peligros de la IA, advierte sobre las alucinaciones, esto es cuando el sistema inventa algo. Puede decir que Napoleón murió en 1815 cuando en realidad falleció en 1821, o cita un libro que no existe. Asimismo, puede dar un dato estadístico que nunca existió. El sistema lo presenta con total confianza, como si fuera verdad, pero es mentira.
