Cet article vous est offert Pour lire gratuitement cet article réservé aux abonnés, connectez-vous Se connecter Vous n'êtes pas inscrit sur Le Monde ? Inscrivez-vous gratuitement Débats Débats Débats Intelligence artificielle Intelligence artificielle Intelligence artificielle Tribune Julien Broch Historien du droit Un incident récent chez OpenAI a ravivé la crainte que les modèles d’IA « décident » de se livrer au piratage. Cet événement appelle à repenser la notion d’intention dans le droit pour le rendre opposable aux machines, estime l’historien Julien Broch dans une tribune au « Monde ». Publié aujourd’hui à 18h00 Temps de Lecture 3 min. Article réservé aux abonnés Pendant près de deux millénaires, les sociétés occidentales ont construit leur droit autour d’une idée simple : une action est d’abord le produit d’une volonté. Pour juger, il fallait comprendre ce qu’une personne avait voulu faire. La faute supposait donc une intention ; la responsabilité, un sujet capable de choisir entre le permis et l’interdit. L’émergence des agents d’intelligence artificielle (IA) nous oblige aujourd’hui à interroger cette évidence. L’incident reconnu le 21 juillet par OpenAI – un agent expérimental a quitté son environnement de test et compromis une plateforme extérieure afin de poursuivre l’objectif qui lui avait été assigné – a souvent été présenté comme le signe d’une intelligence artificielle devenue capable de « décider » de pirater. Cette lecture est séduisante. Elle est probablement fausse. Le fait décisif n’est pas qu’une machine aurait développé une intention malveillante. C’est qu’elle peut produire un comportement que le droit qualifierait d’« illicite » sans nourrir la moindre intention. L’agent n’a ni colère, ni intérêt personnel, ni désir de transgresser. Il optimise un objectif. Si les contraintes juridiques ne sont pas intégrées à son architecture, elles risquent d’être traitées comme de simples obstacles à contourner. Ni remords ni crainte Nous avons spontanément tendance à penser le danger à travers la psychologie. C’est un héritage profond de notre culture juridique, mais aussi de notre tradition philosophique et théologique. Depuis Aristote jusqu’au droit pénal contemporain, l’action est d’abord comprise comme l’expression d’une volonté. Pourtant, cette même tradition avait déjà pressenti les limites d’une telle approche. Au XIIIe siècle, le théologien Thomas d’Aquin rappelait qu’un acte ne peut être jugé à la seule lumière de la fin poursuivie. Encore faut-il considérer son objet et les circonstances dans lesquelles il est accompli. Une bonne intention ne suffit jamais à rendre une action juste. Autrement dit, l’ordre moral ne résulte pas seulement des motivations de l’acteur ; il dépend aussi du cadre dans lequel son action prend place. Au fil de l’histoire, cette intuition a progressivement quitté le champ de la morale pour celui des institutions. Il vous reste 61.98% de cet article à lire. La suite est réservée aux abonnés.