Un modèle peut résoudre un problème difficile, expliquer sa démarche avec assurance et pourtant se tromper sur une hypothèse discrète.
Le problème n’est pas seulement mathématique. Il apparaît dès qu’un agent produit un résultat que quelqu’un utilisera ensuite : formule dans un tableur, analyse statistique, décision métier, modification de code ou action sur un compte.
La bonne question n’est donc pas : « le modèle est-il intelligent ? »
La bonne question est : quelle preuve exige-t-on avant d’accepter son résultat ?
Une réponse détaillée n’est pas une preuve
