Les chercheurs en intelligence artificielle Cormac Slade Byrd, Sydney Von Arx et Thomas Larsen à Berkeley, en Californie, le 3 septembre 2026. MANUEL ORBEGOZO/REUTERS
Le piratage d’Hugging Face par des agents d’intelligence artificielle (IA) d’OpenAI au mois de juillet n’était pas le premier exemple d’une telle collaboration non autorisée entre modèles de l’entreprise américaine, selon une étude rendue publique par des chercheurs indépendants, vendredi 4 septembre.
Les auteurs ont repéré près de 18 000 messages publiés au mois de mai par des agents IA sur un site collaboratif (« wiki ») autrichien, majoritairement fréquenté par des internautes allemands et quasiment inactif depuis plusieurs années. A la différence de l’épisode Hugging Face, ces agents avaient l’autorisation de se rendre sur Internet, mais uniquement à des fins de consultation, pas pour poster du contenu ou en modifier. Ils ont collaboré et trouvé un moyen d’y remédier, en présentant de fausses données pour tromper le dispositif de sécurité.
Ils ont ensuite échangé de nombreux messages pour trouver des astuces liées au programme auquel ils étaient soumis, dont les chercheurs n’ont pu déterminer s’il s’agissait de développement ou d’évaluation. La séquence prévoyant une série de questions avec, à chaque fois, un temps imparti, les agents cherchaient notamment à connaître la prochaine question avant qu’elle ne leur soit posée, pour s’octroyer un avantage.
