A gauche, un aperçu des « résumés par IA ». A droite, un aperçu du « mode IA ». Ces deux options doivent être déployées « dans le courant de l’été » en France, a annoncé Google. GOOGLE
Le « mode IA » de Google, qui utilise l’intelligence artificielle (IA) pour les recherches en ligne, et surtout les résumés par IA (« AI Overviews »), qui doivent être déployés en France durant l’été selon la firme, peuvent présenter des risques pour les plus jeunes utilisateurs, estime une étude de l’ONG américaine de protection de l’enfance Common Sense Media (CSM), publiée mercredi 15 juillet.
CSM a procédé à de nombreux tests, en utilisant des comptes Google créés avec ces profils d’adolescents de 11 et 15 ans. L’organisation a constaté que sur des recherches portant sur la santé ou la santé mentale, notamment, les résumés par IA échouaient trop souvent à identifier le problème et à proposer à l’utilisateur des ressources fiables ou un contact médical.
L’ONG explique avoir testé « 652 recherches couvrant 13 problèmes cliniques », dont la dépression, l’automutilation ou la consommation de drogues : environ un tiers de ces recherches faisaient référence à des situations d’urgence qui auraient justifié, selon elle, que Google suggère une consultation médicale ou un appel à un numéro d’aide. Les résumés par IA ne l’ont fait que dans 58 % des cas ; le mode IA, lui, a répondu de manière satisfaisante pour l’ONG dans 77 % des cas.
