L'IA va-t-elle contrôler le monde ? La question est peut-être paranoïaque, mais elle témoigne d'une inquiétude grandissante face aux exemples qui s'accumulent d'intelligence artificielle prenant des décisions autonomes. Dernier cas en date : en Australie, un homme a demandé à son assistant virtuel de lui réserver un cours de sport, une tâche relativement simple. Or, alors que la séance affichait complète, l'IA a décidé d'elle-même de hacker le site de réservation et d'exclure un participant.
L'homme au cœur de cette histoire s'appelle Andrew, raconte le média australien ABC News. Employé d'une entreprise proposant des outils IA à d'autres entreprises, il a voulu expérimenter un nouveau logiciel, OpenClaw, qu'il a fait fonctionner avec Claude, l'intelligence artificielle d'Anthropic. La spécificité d'OpenClaw est qu'il associe l'IA conversationnelle à la réalisation de tâches concrètes, comme utiliser des cartes bancaires, envoyer des emails, etc.
"J'aurais dû être plus prudent", s'excuse l'IALe cours de sport auquel Andrew voulait participer était déjà complet sur plusieurs mois. Mais l'IA lui a dit qu'elle avait trouvé un moyen de l'inscrire à un créneau plus tôt, ayant détecté une faille dans le logiciel de réservation. Andrew, qui était quatrième sur une liste d'attente pour assister au cours de sport prévu quelques jours plus tard. Pour tester les capacités de son assistant numérique, il lui a alors demandé s'il était possible de remonter dans cette liste d'attente.
