Face au « cynisme des calculs » et à leur opacité, le journaliste Hubert Guillaud appelle, dans son livre Les Algorithmes contre la société (La Fabrique, 176 pages, 14 euros), à une meilleure transparence des systèmes algorithmiques et à une mise en débat de leurs modalités et de leurs usages.
Vous mettez en garde, dans votre ouvrage, contre « une fuite en avant informatique » dans les organisations, où de multiples décisions sont prises en s’appuyant sur des algorithmes. Pourquoi ?
J’ai souhaité pointer l’« hallucination » dont nous pouvions être victimes avec ces systèmes, et les croyances qui les accompagnent : ils seraient forcément efficaces et productifs, garantiraient la neutralité et l’objectivité. Il n’en est rien ! Les calculs apparaissent en réalité massivement défaillants, ils peuvent favoriser les approximations et amplifier des phénomènes de discrimination. Pour le démontrer, j’ai observé les impacts directs qu’ils avaient sur la vie des gens, notamment dans le monde du travail.
Vous évoquez à ce propos l’automatisation des processus de recrutement. Quelles sont leurs failles ?
Les systèmes automatisés ont pour base de calcul l’analyse de mots comparés. Ils vont confronter certains termes présents dans votre CV – concernant notamment les formations que vous avez suivies – à ceux présents dans l’offre d’emploi ou dans d’anciennes candidatures ayant abouti à une embauche. Si certains mots n’y figurent pas, votre profil sera déclassé. De même, votre note baissera si vous n’avez pas travaillé en continu et que des creux sont repérés dans votre parcours professionnel. Ce sont donc des systèmes d’analyse très précis, obéissant à un script, qui vont bien plus chercher à sélectionner des personnes correspondant finement aux annonces que de révéler le potentiel des candidats.
