Cet article vous est offert Pour lire gratuitement cet article réservé aux abonnés, connectez-vous Se connecter Vous n'êtes pas inscrit sur Le Monde ? Inscrivez-vous gratuitement Débats Débats Débats Intelligence artificielle Intelligence artificielle Intelligence artificielle Éditorial Le Monde Après deux incidents reconnus par OpenAI et Anthropic en juillet, il apparaît désormais indispensable de maîtriser les conditions dans lesquelles les systèmes d’IA interagissent avec le monde réel. Publié aujourd’hui à 11h15 Temps de Lecture 2 min. Comment contrôler une technologie dont la diffusion et les capacités progressent plus vite que notre aptitude à en maîtriser les risques ? La question se pose avec une acuité croissante à propos de l’intelligence artificielle (IA). Une réponse semblait s’imposer : garder les modèles les plus puissants sous étroite surveillance, en limitant leur diffusion et en les dotant de garde-fous. Les modèles dits « open weight », dont les paramètres peuvent être téléchargés puis modifiés, seraient au contraire susceptibles d’échapper aux protections mises en place par leurs concepteurs. La fermeture des modèles est ainsi devenue une forme de garantie. Pourtant, cette approche, loin de faire consensus, se heurte à une réalité économique et technique bien plus complexe. Le 24 juillet, des dizaines de grandes entreprises américaines ont demandé à l’administration Trump de renoncer à toute « restriction prématurée » sur les modèles en libre accès. Seul Anthropic, parmi les laboratoires de pointe, se tient à l’écart, estimant que la diffusion de modèles toujours plus puissants constituerait un « risque irréversible pour la sécurité nationale » : une fois leurs paramètres rendus publics, ils pourraient être débarrassés de leurs garde-fous et détournés à des fins malveillantes. Mais cet argument se heurte à un paradoxe révélé par deux incidents récents. Le 21 juillet, OpenAI a révélé que, lors d’un test, l’un de ses modèles était parvenu à contourner les contraintes de l’environnement expérimental dans lequel il était confiné, avant de compromettre les serveurs de la plateforme Hugging Face. Le 30 juillet, Anthropic a reconnu que trois de ses modèles avaient pu accéder aux systèmes de production de trois organisations extérieures lors d’exercices de cybersécurité. Cette fois, une erreur de configuration d’un partenaire de tests les aurait laissés connectés à Internet. La distinction compte : dans un cas, le modèle aurait exploité les possibilités de son environnement. Dans l’autre, une erreur humaine lui aurait ouvert l’accès au monde extérieur. Mais la conclusion est la même : un modèle fermé n’en garantit pas la maîtrise. Le danger apparaît dès qu’un système se retrouve en prise avec le monde extérieur, qu’il parvienne lui-même à contourner ses barrières ou qu’une erreur humaine les laisse ouvertes. A cette fragilité technique s’ajoute une pression économique qui pousse dans le même sens : après avoir investi massivement dans l’IA, les entreprises cherchent à réduire leurs coûts, ce qui les incite à se tourner vers des modèles chinois ouverts, moins onéreux. Quand la sécurité pousse vers la fermeture, l’économie penche vers l’ouverture. La rivalité avec Pékin rend cette contradiction presque insoluble : restreindre les modèles ouverts américains pourrait accélérer l’adoption de leurs concurrents chinois. Dimanche 2 août, l’Union européenne est entrée dans une nouvelle étape de son règlement sur l’IA, renforçant notamment la transparence et les pouvoirs de sanction. Cet effort est indispensable, mais les capacités des modèles évoluent plus vite que les lois censées les encadrer. Le véritable défi est désormais de maîtriser les conditions dans lesquelles ces systèmes interagissent avec le monde réel. Le contrôle se déplace des modèles vers leur environnement. C’est là que réside l’illusion : nous croyons encore pouvoir contenir une technologie dont les capacités débordent progressivement les cadres que nous lui imposons. La question n’est plus seulement de savoir si nous la maîtriserons, mais comment nous apprendrons à composer avec son imprévisibilité. Le Monde