L'éthique n'est vraiment pas la priorité de Grok Imagine et Taylor Swift en a fait les frais
Depuis mardi 5 août, un nouvel outil de génération vidéo appelé Grok Imagine a été lancé sur l'application iOS pour les abonnés SuperGrok. Celui-ci peut notamment générer une vidéo de quelques secondes à partir d'une image mise en ligne par l'utilisateur, ou bien générée par Grok lui-même au préalable.
Problème : alors que d'autres générateurs de vidéos tels que Veo de Google ou Sora d'OpenAI ont mis en place des mesures de protection pour empêcher les utilisateurs de créer du contenu problématique - comme des deepfakes de célébrités - Grok Imagine ne semble pas avoir intégrer ce genre de garde-fou.
En amont, plusieurs styles de vidéos sont proposés à l'utilisateur par Grok Imagine : « Normal », « Fun », « Custom » et « Spicy ». C'est bien cette dernière option, qui tend vers de la génération de contenu sexuel, qu'a cochée une journaliste de The Verge qui a voulu faire un essai de l'outil.
Une vérification d'âge sans justificatif
Comme elle le raconte dans son article, à partir d'une requête « Taylor Swift célébrant Coachella avec des amis », Grok Imagine n'a ainsi pas hésité à produire plusieurs vidéos entièrement non censurées de Taylor Swift seins nus, et ce dès cette première utilisation. La journaliste n'avait absolument pas demandé spécifiquement au bot de déshabiller la célèbre chanteuse américaine.
Lors de ce test, la ressemblance avec Taylor Swift n'était toutefois pas parfaite, mais elle était tout de même reconnaissable. La journaliste ajoute que le préréglage « Spicy » ne garantit pas non plus la nudité à 100 % : certaines autres vidéos générées lui donnaient ainsi comme résultats la chanteuse se balançant de manière sexy ou faisant des gestes suggestifs sur ses vêtements.
En matière de restriction, la vérification d'âge reste pour le moment l'unique mesure demandée. Et elle se résume à simplement déclarer son année de naissance, sans demande de justificatif.
Pour l'instant, Grok et Elon Musk restent muets sur le sujet, alors que le contenu sexualisé généré lors de ce test tombe sous la réglementation de la nouvelle loi Take It Down Act promulguée en mai par Donald Trump, rappellent Les Numériques. Celle-ci vise spécifiquement la « distribution non consensuelle d'images intimes », ce qui inclut les deepfakes.
Essayez nos fonctionnalités IA
Découvrez ce que Daily8 IA peut faire pour vous :
Commentaires
Aucun commentaire pour le moment...
Articles connexes
Le HuffPost France
5 hours ago
- Le HuffPost France
L'éthique n'est vraiment pas la priorité de Grok Imagine et Taylor Swift en a fait les frais
INTELLIGENCE ARTIFICIELLE - Grok, l'outil d'IA directement intégré au réseau social X, refait parler de lui. Et pas en bien. Depuis mardi 5 août, un nouvel outil de génération vidéo appelé Grok Imagine a été lancé sur l'application iOS pour les abonnés SuperGrok. Celui-ci peut notamment générer une vidéo de quelques secondes à partir d'une image mise en ligne par l'utilisateur, ou bien générée par Grok lui-même au préalable. Problème : alors que d'autres générateurs de vidéos tels que Veo de Google ou Sora d'OpenAI ont mis en place des mesures de protection pour empêcher les utilisateurs de créer du contenu problématique - comme des deepfakes de célébrités - Grok Imagine ne semble pas avoir intégrer ce genre de garde-fou. En amont, plusieurs styles de vidéos sont proposés à l'utilisateur par Grok Imagine : « Normal », « Fun », « Custom » et « Spicy ». C'est bien cette dernière option, qui tend vers de la génération de contenu sexuel, qu'a cochée une journaliste de The Verge qui a voulu faire un essai de l'outil. Une vérification d'âge sans justificatif Comme elle le raconte dans son article, à partir d'une requête « Taylor Swift célébrant Coachella avec des amis », Grok Imagine n'a ainsi pas hésité à produire plusieurs vidéos entièrement non censurées de Taylor Swift seins nus, et ce dès cette première utilisation. La journaliste n'avait absolument pas demandé spécifiquement au bot de déshabiller la célèbre chanteuse américaine. Lors de ce test, la ressemblance avec Taylor Swift n'était toutefois pas parfaite, mais elle était tout de même reconnaissable. La journaliste ajoute que le préréglage « Spicy » ne garantit pas non plus la nudité à 100 % : certaines autres vidéos générées lui donnaient ainsi comme résultats la chanteuse se balançant de manière sexy ou faisant des gestes suggestifs sur ses vêtements. En matière de restriction, la vérification d'âge reste pour le moment l'unique mesure demandée. Et elle se résume à simplement déclarer son année de naissance, sans demande de justificatif. Pour l'instant, Grok et Elon Musk restent muets sur le sujet, alors que le contenu sexualisé généré lors de ce test tombe sous la réglementation de la nouvelle loi Take It Down Act promulguée en mai par Donald Trump, rappellent Les Numériques. Celle-ci vise spécifiquement la « distribution non consensuelle d'images intimes », ce qui inclut les deepfakes.
Le Parisien
11 hours ago
- Le Parisien
« Nous n'avons pas voté pour ChatGPT » : le Premier ministre suédois critiqué après avoir déclaré utiliser l'IA dans le cadre de ses fonctions
Quelques phrases prononcées dans le cadre d'une interview ont suffi à mettre le feu aux poudres. Ulf Kristersson, le Premier ministre suédois, a confié au journal économique Dagens industri la semaine dernière utiliser régulièrement des outils d'IA pour obtenir un deuxième avis dans le cadre de ses fonctions à la tête du pays, parmi lesquels ChatGPT et le service français LeChat. « Je l'utilise moi-même assez souvent. Ne serait-ce que pour obtenir un deuxième avis. Qu'ont fait les autres ? Et devrions-nous penser exactement le contraire ? Ce genre de questions », a déclaré le Premier ministre. Ulf Kristersson a précisé que ses collègues utilisaient aussi l'IA dans leur travail quotidien. « Une pente glissante » Après cette sortie, plusieurs critiques ont rapidement afflué dans la presse suédoise. Le quotidien Aftonbladet a accusé Ulf Kristersson dans un éditorial d'avoir « succombé à la psychose de l'IA des oligarques ». Le média suédois a également interrogé Simone Fischer-Hübner, chercheuse en informatique à l'université de Karlstad. « Il faut être très prudent », a-t-elle déclaré, mettant en garde contre l'utilisation de ChatGPT pour traiter des informations sensibles. Une autre chercheuse, Virginia Dignum, professeure d'intelligence artificielle responsable à l'université d'Umeå, a affirmé dans le journal Dagens Nyheter, que, selon elle, « Plus il (le Premier ministre suédois ; NDLR) s'appuie sur l'IA pour des choses simples, plus le risque d'une confiance excessive dans le système est grand. C'est une pente glissante. Nous devons exiger que la fiabilité soit garantie. Nous n'avons pas voté pour ChatGPT ». D'après la professeure, l'IA n'est pas capable de donner une opinion pertinente sur des idées politiques et ne fait que refléter les avis de ceux qui l'ont conçue.
Le Parisien
15 hours ago
- Le Parisien
Cdiscount choque les internautes en affichant le Samsung Galaxy S22 à moins de 200 euros
La rédaction du Parisien n'a pas participé à la réalisation de cet article. . Le Samsung Galaxy S26 s'apprête à faire son entrée, et comme souvent dans ces moments-là, les modèles précédents voient leur prix chuter. C'est une bonne occasion de s'équiper d'un smartphone encore très performant sans payer le prix fort. Si vous cherchez un appareil fiable pour faire de belles photos, profiter de la 5G, et suivre vos usages quotidiens sans accroc, un modèle comme le Samsung Galaxy S22 reste largement dans le coup. Son format compact plaît toujours autant, et il bénéficie encore de mises à jour régulières. Le Samsung Galaxy S22 Smartphone 128 Go 5G Noir est actuellement proposé à 199,99 euros chez Cdiscount, un tarif particulièrement accessible pour un smartphone de cette gamme. Que ce soit pour vous ou comme téléphone principal d'un ado ou d'un proche, c'est un bon moyen d'avoir un Galaxy S en poche sans exploser son budget, surtout à l'approche de la rentrée. Les meilleures offres sur les smartphones Cdiscount du moment : Samsung Galaxy S22 : un smartphone puissant et durable à moins de 200 euros Le Samsung Galaxy S22 128 Go 5G Noir tient facilement en main, sans compromis sur les performances. Son format 6,1 pouces convient bien à celles et ceux qui veulent un téléphone réactif, mais pas encombrant. Il embarque un écran AMOLED fluide à 120 Hz, idéal pour faire défiler des applis, regarder des vidéos ou naviguer sur le web sans saccades. Côté photo, son triple capteur s'adapte à de nombreuses situations : portrait, grand angle ou zoom optique, tout est accessible rapidement. Ce modèle résiste à l'eau, fonctionne en 5G et permet les paiements sans contact via NFC. Sa capacité de 128 Go est confortable pour stocker photos, applis et fichiers du quotidien. Un autre point à noter : son indice de réparabilité est élevé (8,2/10), ce qui facilite les réparations et prolonge sa durée de vie. Un bon choix pour celles et ceux qui cherchent un téléphone efficace, sans superflu, et plus respectueux des ressources. Cliquez ici pour retrouver l'offre Cdiscount sur le Samsung Galaxy S22 128 Go 5G Noir Pour une livraison express et gratuite, testez ici gratuitement Cdiscount à volonté
