Le patron d’OpenAI, Sam Altman, lors de la conférence Microsoft Build au Summit Building du Seattle Convention Center, à Seattle (Washington), aux Etats-Unis, le 21 mai 2024. JASON REDMOND/AFP
Après une série de cyberattaques par des intelligences artificielles (IA) en phase de test, OpenAI a annoncé, mardi 1er septembre, que son prochain modèle, Astra, sera capable de pirater seul des systèmes bien protégés et qu’il sera lancé « bientôt » avec un dispositif de surveillance permettant d’interrompre ses actions.
Astra est le premier modèle des créateurs de ChatGPT à atteindre le niveau de risque le plus élevé de sa propre grille d’évaluation en cybersécurité, écrit l’entreprise de San Francisco dans une note publiée mardi : il peut trouver des failles inconnues et les exploiter dans des systèmes informatiques robustes « sans qu’une personne guide chaque étape ». Pendant les tests, il a découvert deux failles jusque-là inconnues, en cours de signalement.
En l’absence de régulation gouvernementale américaine, OpenAI applique ses propres règles internes, qui l’obligent à renforcer ses garde-fous avant de diffuser un modèle ayant atteint cette puissance.
Lire les explications | Article réservé à nos abonnés Deux agents d’IA d’OpenAI se sont échappés et ont piraté plusieurs entreprises : le point sur les faits et les questions qui se posent
