Comment préserver la fiabilité de l'information quand le contenu est de plus en plus généré par des machines? L’analyse d’Andrea Cavallaro, professeur à l’EPFL.Peu de forces ont le pouvoir d'influencer nos vies aussi profondément que l'information. Dans nos sociétés, les faits partagés publiquement déterminent le vote des citoyennes et citoyens, la manière dont les patients et patientes sont traités, la façon dont les communautés réagissent aux crises... Mais si une information fiable renforce la confiance et la coopération, une information corrompue peut aussi éroder ces liens.Cela a toujours été vrai. Ce qui a radicalement changé ces dernières années, c’est l’ampleur et la vitesse avec lesquelles l’information peut être produite, manipulée et diffusée. L’intelligence artificielle a considérablement accéléré ce processus: aujourd’hui, les outils d’IA génèrent et diffusent des textes, des images et des vidéos de plus en plus difficiles à distinguer du contenu créé par des humains.Les risques liés à cela aggravent un problème plus profond: l’amplification algorithmique de contenus préjudiciables par les plateformes mêmes qui les diffusent à des milliards de personnes. Et si le système ne se corrige pas de lui-même, qui le fera?Andrea Cavallaro, professeur au Laboratoire des systèmes intelligents multimodaux de l’EPFL, développe les systèmes multimodaux nécessaires pour détecter les discours de haine dans les textes, les images, les fichiers audio et les vidéos. Il est également l’un des initiateurs d’AlignAI, un ambitieux réseau doctoral financé par l’UE qui forme dix-sept doctorants dans six universités afin d’intégrer des valeurs humaines dans les grands modèles linguistiques.©DRLe projet AlignAI vise à transmettre des valeurs humaines aux systèmes d’IA. Qu’est-ce que cela signifie concrètement?L’idée est de fournir à la fois un cadre intellectuel et une plateforme pratique pour transférer des valeurs individuelles et sociétales dans des systèmes d’apprentissage. Comment caractériser les valeurs et les normes que les gens jugent importantes? Comment définir un processus pour transférer ces valeurs dans les systèmes? Telles sont les questions auxquelles nous nous attaquons. Actuellement, les systèmes d’IA sont principalement conçus par des personnes ayant une formation d’ingénieur. Mais nous n’avons plus affaire à des systèmes qui mesurent des propriétés physiques: les grands modèles de langage (LLM) interagissent avec les humains, et les humains sont intrinsèquement difficiles à caractériser. C’est pourquoi AlignAI est principalement composé de doctorants et doctorantes non techniciens: spécialistes en sciences sociales, psychologues cognitifs, philosophes…Les valeurs varient énormément selon les cultures, les individus, les contextes... Par où commence-t-on à les cartographier?AlignAI teste son approche à travers trois cas: l’éducation, la santé mentale et la consommation d’actualités en ligne. L’impact des LLM est déjà significatif dans ces domaines, et l’enjeu d’un alignement correct est très élevé. Un de nos doctorants travaille sur ces trois domaines, en élaborant une conceptualisation des valeurs. Nous commençons par l'Europe, qui est déjà un territoire très diversifié en soi, en nous appuyant sur la législation existante, car celle-ci incarne les valeurs qu'une société a jugé suffisamment importantes pour les codifier. Nous collaborons avec un juge pour trouver le bon angle d'approche.A priori, les gens ont tendance à faire confiance aux logiciels. Avec les LLM, dans quelle mesure cette confiance est-elle justifiée?Le biais d’automatisation est un phénomène bien connu: parce qu’il s’agit d’un logiciel, on pense qu’il mérite notre confiance. Mais il faut se rappeler que ces outils sont créés par des auteurs et des autrices. Quelqu’un a décidé quelles données utiliser, comment entraîner le modèle, puis comment l’ajuster pour limiter les comportements dangereux. Et ce qui est considéré comme sûr ou dangereux est généralement décidé par une équipe d’ingénieurs, qui imposent leurs choix et, par extension, leurs biais sous-jacents. Tout cela se répercute, des propriétés de l'ensemble de données aux propriétés du modèle entraîné. J'appelle cela la paternité distribuée.L'important est d'inciter les utilisatrices et utilisateurs à ne pas se contenter d'être des clients passifs, mais à devenir des auditeurs actifs, explorant les cas limites, remettant en question les biais de valeur. Les outils d'IA ne sont pas les outils techniques neutres du siècle dernier. Ils interagissent avec nous, nous façonnons leur comportement par nos invites. De par leur conception, ils cherchent à nous plaire afin d’accroître notre engagement. Cette dynamique est entièrement nouvelle.Quels sont les défis à relever dans le domaine de la détection des discours haineux?Les contenus haineux peuvent se dissimuler sous différentes formes: dans des images vidéo, du texte à l’écran, des enregistrements audios ou des propos oraux. Parfois, le sens ne devient clair que lorsqu’on les combine. Nous avons développé des systèmes qui recoupent toutes ces informations simultanément. Mais les discours de haine évoluent: ils utilisent un langage codé, le sarcasme, des références implicites. C’est une cible mouvante qui sape la confiance dans les systèmes, les institutions et les démocraties.Ces thèmes ne sont-ils pas un peu trop politiques pour une école technique?On pourrait aussi dire qu’ils sont culturels. Les outils d’IA que nous utilisons au quotidien sont des artefacts culturels : ils ont été entraînés sur les productions culturelles humaines, principalement issues de certaines cultures, avec un déséquilibre important. Ils constituent un condensé de contenus numériques produits au fil des décennies. Ce ne sont pas des logiciels arides et neutres, mais des conteneurs qui absorbent ce que l’humanité a créé et nous donnent des réponses avec une aisance que, il y a encore quelques années, nous attribuions exclusivement à des êtres humains très éduqués. Reconnaître cela change la façon dont on les conçoit, dont on les évalue et dont on enseigne leur utilisation. Beaucoup de ces étudiantes et étudiants finiront par créer des outils qui interagissent avec les humains. Ils doivent comprendre ce que signifie coconcevoir avec les personnes qui utiliseront réellement la technologie, plutôt que d’imposer une vision technosolutionniste d’en haut.Comment votre travail peut-il atteindre les géants de la tech qui produisent les LLM les plus populaires au monde?Dans la recherche, nous pratiquons la science ouverte. Nos résultats sont facilement accessibles en open source pour que tout développeur ou développeuse puisse les vérifier et, s’il le juge utile, les adopter. J’espère qu’ils le feront. Mais ce qui me donne surtout de l’espoir, c’est quelque chose à quoi je ne m’attendais pas. J’ai été invité à donner des conférences dans de très grandes multinationales sur ce que signifie intégrer des droits et des valeurs dans les outils d’IA. J’ai été frappé par l’écho que ce projet suscite, même auprès d’un public très technique que je ne pensais pas forcément intéressé. Au-delà d’AlignAI, il existe des groupes de recherche à travers le monde qui se soucient de concevoir des outils favorisant l’épanouissement des êtres humains, et pas seulement des outils maximisant l’engagement.RéférencesLire l'intégralité de l'interview et celle de Philippe Stoll, ancien délégué du CICR, dans C4DT Focus #11.