Publié le 10/09/2026 08:27
Liste des vidéos similaires
France Télévisions
Le journaliste Jean-Christophe Batteria parle, mercredi 9 septembre, de la démission d'un scientifique qui travaillait dans l'intelligence artificielle. Une séquence à retrouver dans l'émission "A suivre Loïc de la Mornais" diffusée entre 20h30 et 22h sur la chaîne info, canal 16.
Un jeune Britannique de 27 ans, au cœur de l'intelligence artificielle, a démissionné. "Il travaillait pour OpenAI et il a démissionné parce qu'il trouvait que déontologiquement, ce n'était pas parfait", explique Jean-Christophe Batteria, journaliste France Télévisions. "Il a claqué la porte. Il se dit lanceur d'alerte et il est tout à fait crédible parce qu'il a vu ça de l'intérieur et il met en garde contre ce qu'il appelle une amélioration récursive. C'est-à-dire que l'IA s'améliore d'elle-même, elle résout les problèmes et elle progresse jusqu'à peut-être nous déborder, déborder l'intelligence humaine, trouver des solutions auxquelles on n'aurait pas pensé, voire entrer dans des systèmes inintelligibles qu'on ne peut pas mesurer, qu'on ne peut plus arrêter", détaille-t-il. Plusieurs alertes ont eu lieu ces derniers jours et ces dernières semaines, notamment après une lettre de Bill Gates. Il alertait sur le fait que l'IA allait prendre des emplois, nous rendre fainéants et contribuer à la désinformation. Il demandait de légiférer sur le développement de l'intelligence artificielle.Le Haut-commissaire à l'ONU aux droits de l'homme, Volker Türk, met en garde sur le fait qu'une IA avancée pourrait faire peser "un risque existentiel sur l'humanité". Il appelle à mettre en place des garanties solides concernant la sûreté et la sécurité de l'IA avant qu'il ne soit trop tard. "L'intelligence artificielle serait capable de hacker, serait capable de, et ça a déjà été le cas, de s'introduire dans des zones qui lui sont interdites en contournant les murs de protection informatique. On peut imaginer l'IA qui monterait des escroqueries", ajoute le journaliste. Une intelligence artificielle a déjà refusé d'obéir à un humain à plusieurs reprises. "En mai dernier, il y a des chercheurs en mathématiques qui ont demandé à des IA de tenter de résoudre des problèmes et de travailler jusqu'à ce que les problèmes soient résolus. Et puis un de ces chercheurs, à un moment, a demandé : 'On pourrait aussi stopper l'expérience'. Et l'intelligence artificielle a contourné et modifié l'encryptage pour pouvoir enjamber l'ordre en estimant que l'ordre de s'arrêter était un obstacle à la résolution du problème et donc comme un Terminator, il voulait résoudre le problème mathématique quelles que soient les embûches qu'on lui mettait", conclut Jean-Christophe Batteria.Retrouvez l'intégralité de la chronique dans la vidéo ci-dessus
