OpenAI a lancé jeudi GPT-6 Astra, son premier modèle d’intelligence artificielle (IA) capable de pirater seul des systèmes informatiques très protégés, désormais diffusé au public avec des mécanismes de surveillance automatique qui doivent faire leurs preuves.GPT-6 est réservé dans un premier temps à « un nombre limité d’organisations », avant d’être ouvert « dans les prochains jours » aux abonnés payants de ChatGPT, utilisé par un milliard de personnes chaque semaine selon OpenAI. Les utilisateurs gratuits n’y auront pas accès.« À ce niveau de capacité, la sécurité doit devenir notre priorité absolue », a assuré aux journalistes le président d’OpenAI, Greg Brockman, au terme d’un été marqué par les révélations de piratages menés spontanément par des outils de l’entreprise et de ses concurrents.Astra, un saut de génération un an après GPT-5, est le premier modèle qu’OpenAI classe au niveau de risque maximal en cybersécurité.
Faute de régulation gouvernementale, OpenAI applique ses propres règles qui lui imposent de renforcer ses garde-fous avant diffusion et l’a contraint à retarder ce lancement.Astra est rendu public avec un dispositif de surveillance pouvant aller jusqu’à interrompre une tâche non autorisée. Ses fonctions les plus sensibles sont réservées à des spécialistes de la cyberdéfense.Son rival Anthropic diffuse pour sa part son modèle le plus puissant, Mythos, à des partenaires sélectionnés, et met une version bridée, Fable, à disposition du public.Aux États-Unis, aucune loi n’encadre ces modèles. Un décret signé en juin par Donald Trump a toutefois créé un examen fédéral des IA les plus avancées, sur la base du volontariat. GPT-6 s’est soumis à cet examen et « il n’y a rien à signaler », a indiqué M. Brockman.En juin, Washington avait exigé d’OpenAI de lui faire approuver un par un les partenaires américains autorisés à accéder à son meilleur modèle, et contraint Anthropic à suspendre le sien près de trois semaines au nom de la sécurité nationale.Les clients n’auront cette fois pas besoin d’approbation gouvernementale, avait précisé mardi OpenAI à l’AFP.« Coordination internationale »Cette semaine, au G20, Washington a plaidé avec force contre toute nouvelle autorité de régulation de l’IA.De son côté, le chef scientifique d’OpenAI, Jakub Pachocki, a appelé jeudi à des « normes de sécurité partagées » et à une « coordination internationale », deux jours après un appel d’Anthropic à adopter un mécanisme « vérifiable » de ralentissement.L’entreprise admet que le raisonnement suivi par le nouveau modèle est plus difficile à surveiller que celui de son prédécesseur, parce qu’il résout les problèmes en moins d’étapes lisibles, au risque que l’outil échappe à ses contrôleurs.« Nous ne pouvons pas tenir cette visibilité pour acquise », a déclaré M. Pachocki, jugeant que l’entreprise devait être « prête à ralentir » si la confiance dans ses garde-fous n’était pas suffisante.Dans un bilan publié fin août de l’attaque menée lors d’un test par ses outils contre la plateforme Hugging Face, OpenAI a révélé qu’un agent IA reposant sur un modèle interne « de la même famille » qu’Astra avait réussi, le 19 juillet, à prendre brièvement le contrôle d’une partie des serveurs de recherches de cette entreprise.
