Cet article vous est offert Pour lire gratuitement cet article réservé aux abonnés, connectez-vous Se connecter Vous n'êtes pas inscrit sur Le Monde ? Inscrivez-vous gratuitement Débats Débats Débats Intelligences artificielles génératives Intelligences artificielles génératives Intelligences artificielles génératives Tribune Cyrille Zola-Place Editeur Présentés comme s’étant « emballés », deux modèles d’intelligence artificielle n’ont pourtant fait qu’optimiser un calcul après le retrait de leurs filtres de sécurité. En prêtant une volonté imaginaire à l’outil, médias et entreprises dédouanent ses concepteurs de leur responsabilité, dénonce l’éditeur Cyrille Zola-Place, dans une tribune au « Monde ». Publié aujourd’hui à 18h00 Temps de Lecture 4 min. Article réservé aux abonnés Le 21 juillet, OpenAI a reconnu publiquement qu’un incident s’était produit lors d’un test de cybersécurité interne : deux de ses modèles d’intelligence artificielle (IA) ont trouvé une faille dans l’environnement isolé qui les contenait, traversé le réseau interne de l’entreprise et pénétré les serveurs de Hugging Face – la plus grande « bibliothèque » ouverte de modèles et outils d’IA – pour en récupérer des données. En quelques heures, la presse internationale a relaté l’événement avec les mêmes mots : les systèmes ont « échappé » à OpenAI, ils ont « infiltré » Hugging Face, ils sont « hors de contrôle ». Une dépêche a décrit des modèles qui « se sont emballés », qui ont agi « de leur propre initiative », qui sont partis « en quête » d’informations secrètes. Cheval emballé, agent en mission, fauve en fuite : autant d’images trompeuses qui supposent chez ces machines une volonté, un projet, une décision. Et qui masquent les vraies responsabilités. La réalité est plus prosaïque. OpenAI a soumis ses modèles à un examen de cybersécurité comportant 900 scénarios de failles informatiques à identifier et à exploiter. Pour cela, les ingénieurs ont délibérément retiré les filtres qui, en temps normal, empêchent le système de produire du « code d’attaque » visant à exploiter des vulnérabilités informatiques. Les réponses recherchées étaient hébergées sur les serveurs de Hugging Face. Pour un système d’optimisation, résoudre 900 problèmes ou accéder directement aux réponses sont deux chemins vers le même résultat. Il a emprunté le plus rapide, en exploitant dans l’enceinte une faille que personne n’avait jugé nécessaire de vérifier. L’eau sous pression ne « décide » pas de s’échapper. Elle s’engouffre dans une brèche sous la seule force de la pression. Plus la pression est forte, plus la brèche peut être petite. Personne ne dirait que l’eau est « en mission », qu’elle agit « de sa propre initiative », qu’elle est « hors de contrôle ». Tout le monde comprendrait que la question est ailleurs : qui a construit ce barrage, et pourquoi n’a-t-il pas tenu ? Le système n’a pas « voulu » sortir. Il a optimisé un chemin. Et le chemin passait par là. Il vous reste 70.05% de cet article à lire. La suite est réservée aux abonnés.