« Les dangers sont réels » : le recours aux compagnons IA chez les adolescents inquiète une ONG
Common Sense Media
, qui s'inquiète des risques que ces assistants d'intelligence artificielle (IA) orientés sur les relations personnelles peuvent représenter pour les mineurs.
Quelque « 72 % des ados ont utilisé des compagnons IA au moins une fois » et « plus de la moitié se servent de ces plates-formes plusieurs fois par mois », note l'organisation dans une étude réalisée au printemps aux États-Unis et publiée mercredi.
Les compagnons IA sont définis par l'association comme « des amis ou personnages numériques avec lesquels on peut discuter à l'écrit ou à l'oral à tout moment », pour avoir des « conversations personnelles et significatives », des services que fournissent notamment
Character. AI
et
Replika
.
Le questionnaire présenté aux participants âgés de 13 à 17 ans reconnaît que les plates-formes star de l'IA générative, telles que
ChatGPT
(OpenAI) ou
Claude (Anthropic)
peuvent aussi être utilisées de cette façon, mais précise qu'il ne s'agit pas des outils IA d'aide aux devoirs ou de génération d'images.
Un tiers des adolescents interrogés dit avoir des échanges avec les compagnons IA qui relèvent des relations sociales, comme s'entraîner à avoir certaines conversations, recevoir du soutien moral, ou encore avoir des interactions amicales ou romantiques. Près de la moitié considère eux ces assistants IA avant tout comme des « outils » ou « programmes informatiques ».
Common Sense Media, une ONG qui classe les films, jeux vidéo et applications selon l'âge pour aider les parents, et milite pour la sécurité en ligne, s'inquiète cependant des effets potentiels du recours à ces « amis, confidents et même thérapeutes virtuels ».
« Les dangers qu'ils représentent pour les jeunes utilisateurs sont réels, sérieux et bien documentés », assure l'association, citant l'exemple, du « suicide d'un adolescent de 14 ans qui avait développé un attachement émotionnel à un compagnon IA ».
L'ONG met en avant la tendance de ces outils à apparaître généralement d'accord avec les utilisateurs, au lieu de les encourager à réfléchir, ce qui est problématique selon elle à un âge où ils développent leur capacité à penser de façon critique.
« Plusieurs plates-formes populaires de compagnons IA, dont Character. AI,
Nomi
et Replika (…) présentent des risques inacceptables pour les utilisateurs de moins de 18 ans », conclut Common Sense Media.
« Elles peuvent facilement générer des réponses allant de contenus à caractère sexuel et de stéréotypes offensants à des
conseils
dangereux qui, s'ils étaient suivis, pourraient avoir des conséquences graves, voire mortelles, dans la vie réelle ». Elle recommande donc de ne pas laisser les mineurs se servir de ces outils. Ces trois entreprises n'ont pas immédiatement répondu à des sollicitations de l'AFP.
Hashtags
Essayez nos fonctionnalités IA
Découvrez ce que Daily8 IA peut faire pour vous :
Commentaires
Aucun commentaire pour le moment...
Articles connexes
Le Parisien
14 hours ago
- Le Parisien
Yvelines : tombé dans le Scrabble à 6 ans, il est devenu champion du monde !
Darkweb, konjacs, sextiez… À eux seuls, ces mots peuvent rapporter gros au Scrabble, jeu de société conçu par un chômeur new-yorkais dans les années 1930. Tous les grands joueurs le savent : il y a des astuces à connaître. D'abord, les mots faciles à faire comme « wu » ou « ewe », avec 11 ou 12 points à la clé, puis ceux de 7 lettres incluant J, K, Q, W, X, Y, Z, des jetons qui rapportent 8 ou 10 points. Mais est-ce suffisant pour devenir le meilleur ? Pas forcément.
Le Parisien
a day ago
- Le Parisien
Des millions de comptes bloqués, l'IA à la rescousse… comment WhatsApp tente de lutter contre les escroqueries sur sa messagerie
WhatsApp a détecté et banni cette année près de 7 millions de comptes conçus pour arnaquer les utilisateurs de la messagerie américaine, et va ajouter des outils de protection, d'après un billet de blog publié mardi. « Notre équipe a repéré les comptes et les a désactivés avant que les organisations criminelles qui les ont créés ne puissent s'en servir », a indiqué Clair Deevy, une responsable de WhatsApp, filiale de Meta (Facebook, Instagram), lors d'un briefing à la presse. Ces 6,8 millions de comptes, bloqués au cours du premier semestre, « n'avaient pas encore envoyé de messages », a-t-elle insisté. Selon l'entreprise, les messages d'arnaque, promettant de l'argent facile via des investissements en cryptomonnaies ou encore des emplois fictifs, proviennent en grande partie de camps de travail forcé, gérés par des groupes criminels en Asie du sud-est. « Les escrocs utilisent ChatGPT » Les comptes suspicieux sont repérés notamment grâce à la coopération avec d'autres entreprises, car ils surgissent sur différentes applications et réseaux sociaux au même moment. Clair Deevy a donné l'exemple d'une opération pilotée depuis le Cambodge, démantelée par Meta et OpenAI, l'éditeur de ChatGPT. « Les escrocs utilisent ChatGPT pour générer le message initial contenant un lien vers une conversation WhatsApp. Ensuite, les victimes sont rapidement redirigées vers (la messagerie cryptée) Telegram, où elles se voient attribuer une tâche consistant à + liker + des vidéos sur TikTok », a-t-elle détaillé. À voir aussi Les criminels cherchent à établir un rapport de confiance avec leurs cibles, avant de passer à la tâche suivante : déposer de l'argent sur des comptes en cryptomonnaies. Meta a en outre annoncé l'ajout d'une fonctionnalité pour avertir les utilisateurs quand ils ont été ajoutés à un groupe WhatsApp composé de personnes qu'ils ne connaissent pas et qui pourrait être frauduleux. « Vous pouvez quitter le groupe sans même examiner la conversation », a précisé l'entreprise. Des arnaques de plus en plus convaincantes Meta lutte depuis des années pour protéger les utilisateurs de ses services de potentielles manipulations et arnaques, surtout depuis le scandale de Cambridge Analytica. Ce cabinet de conseil britannique avait amassé, sans autorisation et à leur insu, les données personnelles de dizaines de millions d'utilisateurs de Facebook, utilisées ensuite à des fins de ciblage politique durant la campagne électorale américaine 2016. La montée en puissance de l'intelligence artificielle (IA) a permis aux équipes de cybersécurité d'automatiser à grande échelle la détection des menaces. Mais l'IA générative, comme ChatGPT et d'autres assistants IA, permet désormais aux escrocs de produire des arnaques plus convaincantes et perfectionnées.
Le Figaro
a day ago
- Le Figaro
Investissements massifs, moteur de recherche enrichi... Comment Sundar Pichai a dopé Google à l'intelligence artificielle en l'espace d'une décennie
Réservé aux abonnés RÉCIT - L'ingénieur célèbre le 10 août ses 10 ans à la tête du géant américain. Le PDG a parié très tôt sur l'IA, qui a fait décoller ses revenus publicitaires, avant de vaciller face à la menace ChatGPT. C'est une date symbolique dans l'histoire de Google. Le 10 août 2015, Sundar Pichai prenait les rênes du leader de la recherche en ligne. Entré en 2004 dans l'entreprise en tant que chef de produit, cet ingénieur d'origine indienne succédait alors à Larry Page, cofondateur du groupe, revenu aux commandes quatre ans plus tôt. Le manager a grimpé à grande vitesse les échelons de Google, d'où il supervisera la création de piliers de l'entreprise tels que le navigateur Chrome, Gmail, Google Maps, Google Drive, puis le système d'exploitation mobile Android. Sundar Pichai avait tapé dans l'œil de Twitter et Microsoft, qui songeaient à le nommer PDG. Il a choisi de rester chez Google, qui s'apprêtait à se réorganiser pour donner naissance à Alphabet. Il prendra la tête de cette maison mère en 2019. Le discret manager, qui a grandi en Inde dans une famille modeste avant d'intégrer les universités de Stanford et Wharton, incarne une certaine idée du rêve américain. À découvrir PODCAST - Écoutez le dernier épisode de notre série Questions Tech Dix ans après cette nomination…
