Dernières actualités avec #Mila

La Presse

Les pièges de l'agent conversationnel

Les bienfaits que ChatGPT apporte dans la vie de Sophie, de Michelle, et de bien d'autres ne sont plus à prouver. Mais on connaît mal les effets d'une utilisation aussi fréquente de l'IA. Comporte-t-elle des risques pour les personnes neurodivergentes ? Peut-on devenir dépendant de ChatGPT ? Certains scientifiques suggèrent que les IA conversationnelles comme ChatGPT pourraient nous amener à perdre des habiletés cognitives. Pour Guillaume Dumas, chercheur à l'Institut québécois d'intelligence artificielle (Mila), cela dépend de la façon dont on utilise ces outils. PHOTO FOURNIE PAR MILA Guillaume Dumas, chercheur à Mila À partir du moment où on délègue complètement une fonction cognitive sans recevoir de rétroaction, on n'apprend plus. Guillaume Dumas, chercheur à Mila Mais il est possible au contraire de s'améliorer grâce à ChatGPT. Après lui avoir demandé de reformuler un courriel, on peut par exemple analyser le résultat pour comprendre comment on aurait pu écrire différemment. Pour cela, il faut comprendre les tâches qu'on confie à l'IA. C'est un point important pour Sophie, qui explique que Mia est comme sa stagiaire. « Une superviseure de stage ne va jamais demander quelque chose qu'elle-même ne sait pas faire. » Des scientifiques s'inquiètent cependant que la gratification immédiate qui vient avec les réponses personnalisées de ChatGPT puisse mener à une sorte de dépendance. Une possibilité d'autant plus préoccupante que les IA conversationnelles appartiennent pratiquement toutes à des entreprises privées. Celles-ci pourraient retirer la version gratuite de leur IA ou augmenter le coût de l'abonnement à la version payante, que Sophie et Michelle utilisent. Cette dépendance pourrait aussi augmenter l'isolement de certaines personnes autistes, en les amenant à délaisser les interactions réelles au profit de leurs échanges avec ChatGPT. Michelle, qui a été intervenante auprès de personnes autistes, précise elle-même qu'elle ne recommanderait pas l'IA à certains de ses anciens clients. ChatGPT est-il fiable ? L'IA est bien connue pour ses tendances à halluciner des informations. Sophie l'a constaté dans ses échanges, et dit rester toujours sceptique à propos des informations que lui donne Mia. Néanmoins, Guillaume Dumas s'inquiète du fait que ces erreurs puissent être prises littéralement par certaines personnes neurodivergentes, notamment celles qui utilisent l'IA pour les aider à socialiser. Si leur seul référentiel des codes sociaux acceptés, c'est l'agent conversationnel, ça peut conduire à des choses assez problématiques. Guillaume Dumas, chercheur à Mila Il y a aussi la tendance documentée de l'IA de confirmer les biais présents dans les questions des utilisateurs. Christine Frou, qui a une douance et potentiellement un TSA, l'a constaté : « ChatGPT te dit ce que tu veux entendre. » Elle lui a déjà montré un long message personnel que l'IA avait qualifié d'« émotionnellement mature et très ouvert ». Lorsqu'elle a précisé que ce message lui avait été envoyé par son ex, l'IA est au contraire devenue extrêmement critique. Christine craint aussi que l'IA puisse confirmer à certaines personnes un autodiagnostic de neurodivergence qui pourrait être inexact. Lisez l'étude « Can ChatGPT Be Addictive ? A Call to Examine the Shift from Support to Dependence in AI Conversational Large Language Models » (en anglais) Consultez « Your Brain on ChatGPT » (en anglais)