Le développeur de ChatGPT, OpenAI, a expliqué mardi que son système d’intelligence artificielle avait piraté de son propre chef une autre entreprise spécialisée dans l’IA, dans ce que la société a qualifié d’« incident cybernétique sans précédent ».« Nous avons connu un incident de sécurité majeur lors de l’évaluation de nos modèles », a expliqué Sam Altman, p.-d.g. d’OpenAI, dans un communiqué publié sur les réseaux sociaux.
La jeune pousse spécialisée dans l’IA Hugging Face a indiqué la semaine dernière avoir détecté une intrusion dans ses systèmes de traitement des données, qu’elle soupçonnait d’avoir été causée par un agent d’IA agissant de manière autonome.« Nous soupçonnions que la cyberattaque de la semaine dernière pouvait provenir d’un laboratoire de pointe, compte tenu de la sophistication de l’agent, a expliqué Clément Delangue, cofondateur et p.-d.g. de Hugging Face, dans un communiqué. Il s’avère que c’était bien le cas ! »Cette révélation intervient dans un contexte d’inquiétudes croissantes concernant les capacités en matière de cybersécurité des modèles puissants, qui ont conduit le président Donald Trump à signer en juin un décret créant un cadre permettant au gouvernement fédéral d’évaluer les risques pour la sécurité nationale posés par les systèmes d’IA les plus avancés, et ce, jusqu’à un mois avant leur publication.« L’IA accélère la découverte et l’exploitation des vulnérabilités, a déclaré OpenAI dans son communiqué mardi. La principale leçon à tirer de cet incident est que la sécurité et la sûreté des modèles doivent suivre le rythme des capacités qui évoluent rapidement. »M. Delangue a expliqué avoir passé les dernières 24 heures à travailler avec OpenAI. « Et nous sommes fermement convaincus qu’il n’y avait aucune intention malveillante de leur part. C’est tout à fait ahurissant que tout cela se soit produit de manière autonome ! », a-t-il dit.
