4 days ago
L'éthique n'est vraiment pas la priorité de Grok Imagine et Taylor Swift en a fait les frais
INTELLIGENCE ARTIFICIELLE - Grok, l'outil d'IA directement intégré au réseau social X, refait parler de lui. Et pas en bien.
Depuis mardi 5 août, un nouvel outil de génération vidéo appelé Grok Imagine a été lancé sur l'application iOS pour les abonnés SuperGrok. Celui-ci peut notamment générer une vidéo de quelques secondes à partir d'une image mise en ligne par l'utilisateur, ou bien générée par Grok lui-même au préalable.
Problème : alors que d'autres générateurs de vidéos tels que Veo de Google ou Sora d'OpenAI ont mis en place des mesures de protection pour empêcher les utilisateurs de créer du contenu problématique - comme des deepfakes de célébrités - Grok Imagine ne semble pas avoir intégrer ce genre de garde-fou.
En amont, plusieurs styles de vidéos sont proposés à l'utilisateur par Grok Imagine : « Normal », « Fun », « Custom » et « Spicy ». C'est bien cette dernière option, qui tend vers de la génération de contenu sexuel, qu'a cochée une journaliste de The Verge qui a voulu faire un essai de l'outil.
Une vérification d'âge sans justificatif
Comme elle le raconte dans son article, à partir d'une requête « Taylor Swift célébrant Coachella avec des amis », Grok Imagine n'a ainsi pas hésité à produire plusieurs vidéos entièrement non censurées de Taylor Swift seins nus, et ce dès cette première utilisation. La journaliste n'avait absolument pas demandé spécifiquement au bot de déshabiller la célèbre chanteuse américaine.
Lors de ce test, la ressemblance avec Taylor Swift n'était toutefois pas parfaite, mais elle était tout de même reconnaissable. La journaliste ajoute que le préréglage « Spicy » ne garantit pas non plus la nudité à 100 % : certaines autres vidéos générées lui donnaient ainsi comme résultats la chanteuse se balançant de manière sexy ou faisant des gestes suggestifs sur ses vêtements.
En matière de restriction, la vérification d'âge reste pour le moment l'unique mesure demandée. Et elle se résume à simplement déclarer son année de naissance, sans demande de justificatif.
Pour l'instant, Grok et Elon Musk restent muets sur le sujet, alors que le contenu sexualisé généré lors de ce test tombe sous la réglementation de la nouvelle loi Take It Down Act promulguée en mai par Donald Trump, rappellent Les Numériques. Celle-ci vise spécifiquement la « distribution non consensuelle d'images intimes », ce qui inclut les deepfakes.
