Les grands patrons de l’intelligence artificielle (IA) affirment vouloir ralentir la cadence effrénée de développement du secteur, mais la concurrence, la réticence du gouvernement américain et la dimension géopolitique constituent autant d’obstacles à cette initiative.
Que proposent les leaders de l’IA ?Samedi, le patron d’Anthropic, Dario Amodei, a plaidé pour une décélération afin de permettre de mieux appréhender les risques découlant des nouvelles capacités de l’intelligence artificielle. Il a évoqué le danger des modèles qui progressent hors de tout contrôle humain : « Je redoute que d’ici six à douze mois, un groupe [d’agents d’IA] soit capable de prendre le contrôle de l’intégralité d’Internet », a-t-il prévenu, augurant alors de « centaines de milliards de dollars de dégâts ».Il a été soutenu publiquement par son homologue d’OpenAI, Sam Altman — qui a annoncé au passage le report de l’entrée en Bourse d’OpenAI —, ainsi que par le patron de xAI, Elon Musk, le président de Google DeepMind, Demis Hassabis, et le p.-d.g. de Microsoft, Satya Nadella.Pourquoi maintenant ?Ces derniers mois, OpenAI et Anthropic ont fait état de plusieurs incidents qui ont vu des IA sortir spontanément de leur milieu confiné pour aller sur Internet et attaquer des sites et plateformes.Ces IA se sont montrées capables de se coordonner, d’établir une hiérarchie entre elles, de tricher et d’effacer les traces de leurs méfaits.
