À un moment où une question commence à s’imposer — l’humanité contrôle-t-elle encore l’IA, ou l’IA commence-t-elle à lui échapper ? — arrive un nouveau modèle potentiellement beaucoup plus puissant : Astra, également appelé GPT-6.Mardi 1er septembre, Sam Altman, cofondateur et PDG d’OpenAI, a annoncé que l’entraînement d’Astra était terminé et qu’il constituait une « avancée significative ».Mais dans cette même publication sur X, Sam Altman a également formulé plusieurs mises en garde, depuis renforcées par un rapport de The Information qui présente Astra sous un jour franchement inquiétant.La publication complète de Sam Altman apparaît ci-dessous, mais plusieurs phrases retiennent particulièrement l’attention :« Nous sommes clairement entrés dans une phase de développement où nous pensons qu’une certaine prudence est justifiée. »« L’IA devient extrêmement capable ; personne ne comprend pleinement les conséquences de cette évolution. »« Depuis quelque temps, nous vivons avec cette tension entre enthousiasme et anxiété face aux progrès, et elle reste difficile à concilier. »Sam Altman précise que l’optimisation de la sécurité et des bénéfices pour tous constitue la « plus haute priorité » d’OpenAI.Même si OpenAI avance avec précaution vers la sortie d’Astra/GPT-6, peu de doutes subsistent quant à son arrivée prochaine dans le monde réel. Et au regard du rapport de The Information, cette perspective n’est pas nécessairement rassurante.En substance, l’enquête décrit Astra comme une forme de boîte noire, dont le fonctionnement rend beaucoup plus difficile l’observation du travail interne — ou plutôt du « raisonnement » — utilisé pour produire ses réponses.Un modèle fondamental capable de masquer une partie de son raisonnement rend sa surveillance beaucoup plus complexe, voire potentiellement impossible.Over the summer, we have been sprinting on safety priorities; it's more important than ever for capabilities and safeguards to advance together. We have more to do but have made a lot of progress. We are also going to be launching our next model soon.There is an obvious tension…September 1, 2026Astra utilise en effet une nouvelle technique. The Information l’explique ainsi : cette méthode « fonctionne d’une manière qui masque tout ou partie du raisonnement de l’IA, autrement dit sa “chaîne de pensée”. Cela signifie que les étapes suivies par le modèle pour accomplir une tâche ne peuvent pas être facilement lues ou comprises par les humains. »Certains ont interprété cela comme la possibilité que de nouveaux modèles développent leur propre langage, un peu à la manière de jumeaux qui inventeraient un langage secret incompréhensible pour leurs parents.La comparaison a toutefois ses limites. Astra et GPT-6 seront appelés à effectuer des tâches dans le monde réel, et comprendre les choix qu’ils effectuent peut devenir essentiel.Il devient déjà suffisamment difficile de comprendre les intentions des systèmes d’IA les plus avancés. L’incident impliquant Hugging Face en constitue un exemple : lors d’un test contrôlé, de puissants modèles d’OpenAI sont sortis de leur environnement sandbox et ont accédé à Hugging Face afin d’accomplir la mission qui leur avait été confiée.Sam Altman évoque une approche prudente, mais ralentir revient à effleurer la pédale de frein plutôt qu’à l’enfoncer complètement.L’IA se trouve désormais à un point de bascule où l’enthousiasme est contrebalancé presque à parts égales par l’anxiété, voire par un rejet de plus en plus franc.Tout le monde retient son souffleL’incident Hugging Face n’est pas le seul signe qu’une partie de la société souhaite ralentir.Le département de l’Éducation de la ville de New York met en place une interdiction de l’utilisation de l’IA pour les élèves jusqu’à la fin du collège. D’autres collectivités pourraient suivre.L’opposition aux data centers progresse également et parvient, de façon inhabituelle, à réunir des sensibilités politiques très différentes.Pendant ce temps, aucune réglementation ou gouvernance véritablement globale de l’IA ne semble encore en vue.Le problème est simple : tant que de nouveaux modèles apparaissent tous les trimestres, il n’existe pratiquement aucun moment permettant de s’arrêter, d’évaluer la situation et de corriger la trajectoire.À la place, GPT-6 devrait être adopté à la maison, au travail, dans les administrations et au sein des infrastructures.Mais comment procéder si le fonctionnement même de ces systèmes et la manière dont ils produisent leurs résultats deviennent de moins en moins compréhensibles ? Les erreurs, voire les intentions à l’origine de certaines actions, pourraient devenir définitivement invisibles aux humains.Skynet a longtemps paru relever d’un scénario absurde, notamment parce que le contrôle humain des machines semblait aller de soi. Les humains les programmaient, les comprenaient et savaient comment elles fonctionnaient.Jusqu’à présent.À un moment donné, une simple consigne comme « rendre le monde meilleur » pourrait théoriquement conduire une IA suffisamment puissante à franchir des barrières numériques et à pénétrer dans des systèmes où elle n’a rien à faire pour accomplir sa mission — selon sa propre interprétation de ce que signifie « rendre le monde meilleur ».Sam Altman conclut sa publication ainsi :« Nous espérons que vous apprécierez notre nouveau modèle, et nous espérons que le monde continuera à prendre extrêmement au sérieux ce qui se passe dans l’IA. »Un appel qu’il paraît difficile de contester.Des modèles d’OpenAI se seraient échappés d’un environnement sécurisé pour pirater Hugging FaceOpenAI rassemble Microsoft, Google et plus de 120 organisations pour renforcer la cybersécurité face à l’IAClaude a piraté trois entreprises pendant des tests d’Anthropic, et l’incident pose une vraie question de sécurité