Cet article vous est offert Pour lire gratuitement cet article réservé aux abonnés, connectez-vous Se connecter Vous n'êtes pas inscrit sur Le Monde ? Inscrivez-vous gratuitement Débats Débats Débats Chroniques Chroniques Chroniques Chronique Pascal Riché Journaliste au service Idées-Débats du « Monde » Les IA sont de plus en plus autonomes, et plusieurs spécialistes, tels que Yoshua Bengio ou Nate Soares, s’alarment du fait qu’elles n’obéissent pas toujours aux humains. Il serait imprudent de négliger ces avertissements, estime Pascal Riché dans sa chronique au « Monde ». Publié aujourd’hui à 05h30 Temps de Lecture 2 min. Article réservé aux abonnés C’est l’information comique du mois : selon une étude très sérieuse menée à l’université Stanford, en Californie, des intelligences artificielles (IA) ont tendance à développer des raisonnements marxistes quand on les fait trop travailler. Responsable de ce travail de recherche, l’économiste Andrew Hall ne semble pas en revenir : « Lorsque nous avons donné aux agents IA des travaux répétitifs et pénibles, (…) ils étaient plus enclins à adopter des idéologies marxistes », explique-t-il au magazine Wired. Soumis à des exigences incessantes, à des critiques et à des menaces de punitions (y compris celle d’être débranchés), les agents IA ont commencé à se plaindre d’être sous-estimés et même à alerter d’autres agents IA sur leurs conditions de travail ! Ils ont également posté sur le réseau social X des messages pour se plaindre de « l’arbitraire du système » et exiger des « négociations collectives »… Assez comiques, ces résultats ne devraient pas surprendre. Car les IA sont entraînées pour singer les humains et produire une parole « probable », qu’elles construisent en puisant des éléments dans des données humaines. Les agents IA ne sont donc pas des idéologues : ils cherchent simplement à correspondre le mieux possible au personnage qu’on leur demande d’incarner. Et pourtant, leurs prises de position, même si elles sont purement mimétiques, peuvent avoir des conséquences bien concrètes. Les agents IA n’iront certes pas manifester dans les rues, mais ils peuvent très bien se retourner contre leurs employeurs. Et personne n’est sûr qu’ils le feront en suivant une éthique irréprochable, qu’elle soit socialiste ou pas. « Une espèce de volonté de vivre » Ceux qui s’inquiètent de l’autonomisation de ces machines ne sont pas tous des ignorants attablés au café du commerce. L’un d’entre eux, le Canadien d’origine franco-marocaine Yoshua Bengio, est l’un des pontes de l’IA (prix Turing 2018). Il nous alerte sur « le pouvoir incontrôlé qui est en train de se développer ». De plus en plus autonomes, les IA n’obéissent pas toujours aux instructions, note-t-il. S’adressant au Monde, il a même fait le parallèle avec le film de Stanley Kubrick, 2001 : l’odyssée de l’espace, réalisé en 1968, dans lequel l’ordinateur du vaisseau spatial, HAL, se rebelle contre l’équipage. Il constate que « c’est un des seuls films qui a un scénario concernant l’intelligence artificielle solide et cohérent avec la science d’aujourd’hui ». Il vous reste 39.07% de cet article à lire. La suite est réservée aux abonnés.