Le populaire robot conversationnel ChatGPT, de l’entreprise américaine OpenAI, a été développé au mépris des lois canadiennes et québécoises sur la protection des renseignements personnels, conclut une enquête conjointe entre les deux paliers de gouvernement.« OpenAI a lancé ChatGPT sans avoir pleinement pris en compte les risques connus en matière de protection de la vie privée », a déclaré le commissaire à la protection de la vie privée du Canada, Philippe Dufresne, lors d’une conférence de presse mercredi.Son enquête, menée conjointement avec ses homologues du Québec, de l’Alberta et de la Colombie-Britannique, reproche à ce modèle d’intelligence artificielle (IA) d’avoir collecté une quantité excessive de renseignements personnels et de ne pas s’être assuré d’avoir le consentement de ses utilisateurs pour le faire.De plus, le défaut de l’IA de commettre des erreurs factuelles, souvent qualifiées d’« hallucinations », n’a pas fait l’objet d’un avertissement approprié. « Jusqu’à tout récemment, la société n’avait pas procédé à une évaluation visant à vérifier l’exactitude des renseignements personnels figurant dans les réponses de ChatGPT », peut-on lire dans le rapport.
Le modèle manquait aussi de procédures pour corriger ou supprimer les données personnelles incorrectement collectées.De manière générale, le lancement de ChatGPT a ouvert la porte « à des risques de préjudices » envers la population, comme « de la discrimination fondée sur les renseignements fournis à leur sujet ». Le commissaire Dufresne explique que c’est parce que le robot conversationnel recrachait parfois de l’information d’une crédibilité douteuse trouvée sur les réseaux sociaux, mais sans l’indiquer.Au moins quatre lois violéesLe développement de ChatGPT a ainsi contrevenu à la loi fédérale et à au moins trois lois provinciales, dont la Loi sur la protection des renseignements personnels dans le secteur privé du Québec.Parmi les recommandations de la présidente de la Commission d’accès à l’information du Québec, Lise Girard, se trouve la demande d’informer les utilisateurs du site que leur clavardage pourrait être utilisé pour entraîner le modèle d’IA. Elle aimerait aussi que cette option ne soit pas celle activée par défaut. La vice-présidente de la commission, Naomi Ayotte, a aussi précisé que le consentement des utilisateurs doit être sollicité « dans des termes clairs », et non pas enfoui dans un long formulaire illisible.Depuis le lancement de l’enquête conjointe fédérale-provinciale, OpenAI dit avoir pris — ou avoir l’intention de prendre — plusieurs mesures de conformité. Ces dernières ont satisfait le commissaire fédéral, Philippe Dufresne, qui juge que la plainte fédérale est « conditionnellement résolue ».La loi canadienne s’applique à OpenAI du fait que son produit est accessible aux Canadiens.
