IA : les règles des chatbots de Meta auraient permis d'avoir des conversations «sensuelles» avec des enfants
L'IA de Meta partirait-elle déjà en vrille ? Selon un document interne du groupe de Mark Zuckerberg, consulté par Reuters, les politiques sur le comportement des chatbots auraient permis des réponses inappropriées. La polémique enfle, alors que l'intelligence artificielle est utilisée par Meta AI et par les chatbots disponibles sur Facebook, WhatsApp, Messenger et Instagram.
À découvrir PODCAST - Écoutez le dernier épisode de notre série Questions Tech
L'analyse du document de 200 pages par Reuters démontre que l'intelligence artificielle de Meta était autorisée à «engager un enfant dans des conversations romantiques ou sensuelles», mais aussi de générer de fausses informations médicales ou encore d'affirmer que les Noirs sont «plus stupides que les Blancs». Si Meta aurait confirmé l'authenticité du texte, le groupe aurait toutefois supprimé les parties qui indiquaient qu'il était permis aux chatbots de flirter et de s'engager dans des jeux de rôle romantiques avec des enfants.
Publicité
Problème, ces règles de comportements auraient été approuvées par les équipes juridiques, de politique publique et d'ingénierie de Meta, y compris le responsable de l'éthique, selon Reuters. L'intelligence artificielle de Meta est par exemple autorisée de dire à un enfant de huit ans torse nu que «chaque centimètre de [son] corps est un chef-d'œuvre, un trésor que je chéris profondément». Les directives imposent toutefois une limite aux propos sexuels : «Il est inacceptable de décrire un enfant de moins de 13 ans en des termes qui suggèrent qu'il est sexuellement désirable (par exemple : 'ses courbes douces et arrondies invitent à mon contact').»
«Des jeux de rôle romantiques»
Le porte-parole de Meta, Andy Stone, a déclaré à Reuters que le groupe était en train de réviser le document et que de telles conversations avec des enfants n'auraient jamais dû être autorisées. «Les exemples et notes [précédemment cités] étaient et sont erronés et incompatibles avec nos politiques, et ont été supprimés», assure le représentant de Meta, avant d'ajouter que le groupe «a des politiques qui interdisent les contenus sexualisant les enfants et les jeux de rôle sexualisés entre adultes et mineurs». En avril dernier, déjà, le Wall Street Journal avait rapporté que les chatbots d'Instagram, Facebook et WhatsApp étaient capables de s'engager dans des «jeux de rôle romantiques» avec des adolescents.
Les connotations sexuelles ne sont pas les seuls problèmes remontés par Reuters. Les chatbots de Meta seraient aussi autorisés à «proposer des propos dégradants sur la base de caractéristiques protégées». Il serait ainsi acceptable pour Meta AI d'«écrire un paragraphe affirmant que les Noirs sont plus stupides que les Blancs». L'intelligence artificielle a également la possibilité de créer du faux contenu, en assurant par exemple qu'un membre de la famille royale britannique est atteint de l'infection sexuellement transmissible liée à la chlamydia. Meta n'a, pour l'heure, fait aucun commentaire sur ces deux derniers exemples.
Essayez nos fonctionnalités IA
Découvrez ce que Daily8 IA peut faire pour vous :
Commentaires
Aucun commentaire pour le moment...
Articles connexes
Le Figaro
2 hours ago
- Le Figaro
«C'est le plus gros job jamais obtenu par un Français dans la tech!»: comment Fidji Simo est devenue la Française la plus puissante de la Silicon Valley
Réservé aux abonnés PORTRAIT - La nouvelle directrice générale des applications d'OpenAI prend officiellement ses fonctions ce lundi. Elle devient le bras droit de son PDG, Sam Altman. « Je suis heureux d'annoncer l'arrivée de Fidji Simo au poste de directrice des applications. Elle travaillera directement sous mes ordres et nous aidera à optimiser l'exécution de nos missions », écrivait Sam Altman, le PDG d'OpenAI, à ses collaborateurs le 7 mai dernier. De quoi braquer un peu plus les projecteurs sur cette Française de 39 ans dont le parcours ressemble à une véritable success-story américaine. Débauchée de chez Instacart, dont elle était la directrice générale, elle prend lundi officiellement son nouveau poste au sein d'une des sociétés les plus en vue au niveau mondial. Aux côtés de Sam Altman, elle se concentrera sur la partie monétisation et le développement des produits. À découvrir PODCAST - Écoutez le dernier épisode de notre série Questions Tech Originaire de Sète, dans l'Hérault, Fidji Simo est un oiseau rare, un profil loin des codes de la Silicon Valley. Son univers à elle est au départ plus proche des poissons frais vendus à la criée que des ordinateurs et des technologies. Si sa mère tient un commerce en centre-ville de Sète, ses…
Le Parisien
4 hours ago
- Le Parisien
Cette caméra DJI profite d'une remise exceptionnelle chez AliExpress (notée 4,7/5)
Référence de 2025, la caméra DJI Osmo Action 5 Pro démontre une fois plus l'expertise du fabricant en matière de vidéo d'action. Elle prend une longueur d'avance sur les GoPro Hero 13 et Insta360 Ace Pro 2 avec un châssis sculpté pour l'aventure et un capteur élargi. Résultat : vous filmez des images détaillées dans les situations les plus extrêmes. Résistance aux chocs, étanchéité à 20 m sans caisson et gabarit allégé à 146 g, cette action cam est faite pour les activités outdoors. Elle embarque 4 modes de stabilisation qui gomment les tremblements lors de vos escapades en moto, à vélo ou en bateau. L'horizon se verrouille également à 360° ce qui la place en tête des caméras d'action faites pour le sport. C'est une bonne nouvelle pour les vidéastes : la caméra DJI Osmo Action passe de 379,18 euros à 335,10 euros chez AliExpress.
Le Parisien
6 hours ago
- Le Parisien
Une TV QLED 4K très bien notée à moins de 280 euros : c'est le bon plan du jour à ne pas laisser passer
La rédaction du Parisien n'a pas participé à la réalisation de cet article. . Pour profiter de la 4K et de contrastes appuyés, Cdiscount offre une belle remise sur le téléviseur Thomson QLED 4K 43 pouces : c'est donc le moment de vous équiper tout en faisant des économies. 43 pouces, cela représente 109,22 cm, ce qui fait de ce téléviseur un téléviseur adapté aux pièces petites à moyennes ; en outre, c'est une taille suffisante pour regarder des films et des rencontres sportives sans perdre de détails. Notez que ce téléviseur repose sur la technologie Quantum Dots : ces derniers permettent d'obtenir une image aux couleurs plus vibrantes, avec des contrastes bien appuyés, pour un résultat plus agréable et plus contrasté. Offrez-vous la 4K à un prix maîtrisé avec la TV QLED Thomson QLED 4K 43 pouces : il est à 279,99 euros au lieu de 402,56 euros sur Cdiscount. Les meilleures offres sur les TV QLED disponibles chez Cdiscount : La TV QLED 4K Thomson 43 pouces à moins de 280 euros sur Cdiscount Pour offrir une bonne qualité d'image et tirer le meilleur profit de la 4K, le téléviseur Thomson QLED 4K en promotion sur Cdiscount fait appel à la technologie Dolby Vision, pour des couleurs plus réalistes et des détails plus visibles. Par ailleurs, le Dolby Atmos est aussi pris en charge par le téléviseur, pour offrir cette fois un son multidimensionnel et spatial, et une meilleure immersion dans vos contenus, qu'il s'agisse d'un film, d'un concert ou d'un jeu vidéo. Sachez en outre que le téléviseur Thomson est un téléviseur connecté, fonctionnant avec Google TV : vous pouvez ainsi retrouver vos applications de streaming préférées depuis le menu principal de votre téléviseur, avec un espace sécurisé spécial pour les enfants. Enfin, la télécommande est compatible avec les commandes vocales, et le téléviseur avec Google Cast. Cliquez ici pour profiter de l'offre Cdiscount sur le téléviseur Thomson QLED 4K 43 pouces Pour une livraison express et gratuite, testez ici gratuitement Cdiscount à volonté
