Un chercheur en intelligence artificielle, parti d’OpenAI pour rejoindre Anthropic, qu’il jugeait plus prudent, a décidé de quitter l’industrie, accusant les deux laboratoires américains de « jouer avec nos vies » dans leur course au développement d’IA capables de s’améliorer toutes seules.Jacob Coxon, un Britannique de 27 ans, travaillait depuis trois ans sur le pré-entraînement, l’étape où les modèles absorbent d’immenses quantités de données, d’abord chez OpenAI puis, cette année, chez son grand rival Anthropic.« Aucune des deux entreprises n’agit de manière responsable. Elles foncent tout droit vers une superintelligence capable de s’améliorer elle-même et jouent avec nos vies », a-t-il écrit mardi sur X.« Les gens qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie. Ce n’est pas un coup marketing », a-t-il ajouté.
Un responsable de la sûreté d’Anthropic, Evan Hubinger, lui a donné raison sur X : « Nous croyons vraiment sincèrement que l’IA pourrait tuer tous les humains », a-t-il écrit, estimant à titre personnel ce risque à « plus de 10% » dans la décennie.Il a ajouté qu’Anthropic faisait « de son mieux » mais n’avait « pas encore de plan » pour s’assurer qu’une IA surpassant des capacités humaines obéisse encore à ses concepteurs, tout en jugeant « faible » le risque posé par les modèles actuels.La démission de Jacob Coxon intervient alors qu’Anthropic prépare une entrée en Bourse géante, après un été marqué par des piratages menés, sans autorisation, par des outils d’IA en test de plusieurs laboratoires.Sollicitées par l’AFP, les deux entreprises n’avaient pas réagi immédiatement.Les champions de l’IA disent voir approcher le stade de « l’auto-amélioration récursive », au-delà duquel un modèle concevrait seul son successeur, hors de tout contrôle humain
