Le Laboratoire d’apprentissage automatique et d’optimisation (Machine Learning and Optimization Laboratory, MLO) de la faculté Informatique et Communication de l’EPFL s’est associé au Centre International de calcul des Nations Unies (UNICC) afin de développer un cadre pratique d’évaluation permettant d’évaluer la sécurité et la fiabilité des systèmes d’intelligence artificielle.Cette collaboration a été annoncée à l’occasion du Sommet mondial AI for Good 2026 des Nations Unies, organisé à Genève. Le MLO, rattaché à la Faculté informatique et communications (IC) de l’EPFL, et l’UNICC y ont dévoilé un partenariat visant à promouvoir une IA responsable.Le Sommet mondial AI for Good est l’événement annuel phare des Nations Unies consacré à l’utilisation de l’intelligence artificielle pour relever les grands défis mondiaux et accélérer la réalisation des Objectifs de développement durable (ODD).Facilitée par le Réseau international de calcul et d’intelligence artificielle (ICAIN), cette nouvelle collaboration réunit l’expertise de pointe de l’EPFL en recherche sur l’intelligence artificielle et le savoir-faire opérationnel de l’UNICC dans le développement des infrastructures numériques. Elle reflète un engagement commun en faveur d’une IA digne de confiance, fondée sur une recherche rigoureuse, des méthodes d’évaluation concrètes et le partage des connaissances.Le livre blanc publié dans le cadre de cette collaboration présente une approche structurée pour évaluer le comportement d’Apertus, le modèle de fondation entièrement ouvert développé en Suisse dans le cadre de la Swiss AI Initiative pour soutenir une IA souveraine. Au-delà des seules performances techniques du modèle, l’étude analyse le comportement du système lorsqu’il est déployé dans un environnement institutionnel, où la précision, la sécurité et la fiabilité sont essentielles.«Le projet a évalué le système selon plusieurs dimensions, notamment sa résistance aux requêtes malveillantes, sa capacité à reconnaître les situations dans lesquelles il ne devrait pas répondre, l’exactitude de ses réponses lorsqu’il s’appuie sur des connaissances externes, ainsi que sa vulnérabilité aux interactions biaisées ou trompeuses», explique Martin Jaggi, professeur associé et responsable du MLO.Au-delà des résultats présentés dans le livre blanc, les partenaires ont développé un cadre d’évaluation pratique que les administrations publiques, le système des Nations Unies et d’autres organisations internationales pourront adapter pour évaluer la sécurité et la fiabilité de leurs propres systèmes d’IA.«Cette collaboration démontre ce que les organisations internationales et les établissements universitaires peuvent accomplir ensemble », déclare Anusha Dandapani, responsable du pôle IA de l’UNICC. « L’UNICC apporte le contexte opérationnel, tandis que l’EPFL apporte la rigueur de la recherche. Ensemble, nous avons évalué des modèles ouverts en conditions réelles plutôt qu’en théorie. C'est cela, le renforcement des capacités institutionnelles pour une IA responsable. Sans omettre que les connaissances ainsi produites vont au-delà du cadre de ce partenariat. »À mesure que l’intelligence artificielle s’intègre dans les activités du secteur public, des initiatives comme celle-ci montrent l’importance d’allier recherche scientifique et expérience opérationnelle afin de garantir que les technologies d’IA restent sûres, fiables et alignées sur l’intérêt général.À propos du livre blancLe livre blanc, Safety Evaluation of an Institutional LLM-RAG Deployment: A Four-Layer Audit of the UNICC Apertus System, présente le cadre d’évaluation développé conjointement par l’UNICC et l’EPFL pour mesurer la sécurité et la robustesse des systèmes d’IA destinés à un usage institutionnel. Outre les résultats de l’étude, il propose des méthodologies concrètes qui pourront servir de référence pour de futures démarches d’assurance qualité des systèmes d’IA au sein des Nations Unies et au-delà.Consulter le livre blanc : https://www.unicc.org/resources/2026/07/07/safety-evaluation-of-an-institutional-llm-rag-deployment/