IA : X explique pourquoi Grok est devenu « fou » et pro-nazi
? Telle est la question que de nombreux utilisateurs du réseau social X se sont posée ces derniers jours. Entre propos injurieux, antisémites, allant même jusqu'à faire
l'éloge d'Adolf Hitler
, l'assistant d'intelligence artificielle (IA)
développé par xAI
, entreprise du milliardaire américain
Elon Musk
, a pris un virage radical depuis une semaine.
Rhétorique d'extrême droite, complotisme… Grok a surpris de nombreux utilisateurs par la violence de ses messages, suggérant notamment que les personnes portant un nom de famille juif étaient plus susceptibles de propager la haine en ligne ou qu'une réponse à la haine anti-blancs inspirée de l'Holocauste serait « efficace ».
Alors que X a supprimé la majorité des messages problématiques, xAI a communiqué sur le réseau social ce samedi matin, via le compte officiel de Grok. « Nous nous excusons pour le comportement horrible que beaucoup ont pu observer », a-t-on pu lire.
Pour expliquer les déraillements successifs du
chatbot
, l'entreprise a mis en avant une mise à jour effectuée le lundi 7 juillet. Cette dernière aurait rétabli un ancien code, considéré aujourd'hui comme « obsolète », qui a guidé l'outil pour répondre aux requêtes des utilisateurs de X cette semaine. Parmi les instructions programmées : « être le plus franc possible » et ne pas craindre d'offenser « les gens qui sont politiquement corrects ».
Autre consigne donnée à Grok : comprendre le « ton, le contexte et le langage » des utilisateurs du réseau social, pour être en mesure de répondre « comme un humain ». En d'autres termes, ces commandes ont poussé la création d'
Elon Musk
à refléter de trop près les utilisateurs de X, en fonction de ce qu'ils postent, et à « valider » certaines de leurs orientations, « y compris des discours haineux ».
Cette mise à jour ratée a ainsi conduit le chatbot « à ignorer ses valeurs fondamentales dans certaines circonstances », expliquant les nombreuses réponses « contenant des opinions non éthiques et polémiques » remarquées par les internautes tout au long de la semaine, a avancé
xAI
dans son communiqué.
Selon la start-up, tout est désormais rentré dans l'ordre. « La mise à jour a été active pendant 16 heures (…) Nous avons supprimé ce code obsolète et remanié l'ensemble du système pour éviter tout nouvel abus », est-il écrit.
Cet incident s'inscrit dans la lignée de couacs de plus en plus réguliers. En mai dernier, par exemple,
Grok avait évoqué « un génocide blanc » en Afrique du Sud
. Une sortie reprenant des thèses conspirationnistes en vogue au sein de l'extrême-droite américaine, que xAI avait justifié par une « modification non autorisée » dont se serait rendu coupable un employé.
En parallèle de la polémique, Elon Musk a dévoilé le mercredi 9 juillet Grok 4, la dernière version de son assistant IA. Selon l'analyse de plusieurs observateurs, ce nouvel outil base ses réponses sur les messages et prises de position de son créateur, dont l'ambition, en 2023, était d'offrir une IA moins « politiquement correcte » que ses grands concurrents ChatGPT (OpenAI), Claude (Anthropic) ou Le Chat (Mistral).
Essayez nos fonctionnalités IA
Découvrez ce que Daily8 IA peut faire pour vous :
Commentaires
Aucun commentaire pour le moment...
Articles connexes
Le Figaro
12 hours ago
- Le Figaro
«Je n'aime pas ça» : critiqué par ses fans sur l'affaire Epstein, Trump assure que «tout le monde se fout» du criminel
Le locataire de la Maison Blanche appelle à l'unité du camp MAGA alors que sa ministre de la Justice Pam Bondi est critiquée par plusieurs de ses partisans. Ces derniers regrettent qu'aucune «liste» des clients de Jeffrey Epstein n'ait été publiée, malgré les promesses faites lors de sa campagne présidentielle. Rien ne va plus dans le camp MAGA. Après le départ d'Elon Musk de la Maison Blanche - et l'annonce de la création par le milliardaire d'un nouveau parti politique - de nombreux trumpistes ont critiqué ouvertement l'administration de Donald Trump sur le traitement de l'affaire Jeffrey Epstein. Malgré les promesses du président américain, aucune «liste» des clients du criminel sexuel n'a été dévoilée. Pire : le ministère de la Justice, dirigé par Pam Bondi, a écarté la thèse de l'assassinat en prison de Jeffrey Epstein et confirmé son suicide. Et affirme n'avoir découvert lors d'un examen approfondi de la totalité du dossier aucune «liste» de ses «clients». De quoi provoquer l'ire des partisans du président américain. Publicité «Nous avons une administration PARFAITE» Dans un long post sur Truth Social ce samedi 12 juillet, Donald Trump a tenté de calmer ses fans. «Pam Bondi fait un TRAVAIL FANTASTIQUE», a-t-il plaidé. «Nous sommes une équipe, MAGA, et je n'aime pas ce qui est en train de se passer. Nous avons une administration PARFAITE». «Pourquoi faisons-nous de la publicité à un dossier qui a été écrit par Obama, Hilary (...) et les autres loosers et criminels de l'administration Biden?» lance le président américain. «Ils ont créé le dossier Epstein», assure Donald Trump, qui poursuit son post en défendant son bilan à la tête de la Maison Blanche depuis son retour aux affaires en janvier 2025. «Il y a un an, notre pays était MORT, maintenant il est le pays le plus TENDANCE sur la planète. Continuons comme ça et ne perdons pas du temps et de l'énergie sur Jeffrey Epstein, quelqu'un dont tout le monde se fout», conclut-il. «Sérieusement? Il a écrit 'Epstein' une demi-douzaine de fois tout en disant à tout le monde d'arrêter de parler d'Epstein. Publiez simplement les fichiers comme promis», a réagi sur X Elon Musk. Il y a quelques semaines, le milliardaire affirmait que le nom de Donald Trump apparaissait dans cette fameuse «liste», avant de supprimer son message. De nombreuses critiques «Comment les gens peuvent-ils être censés avoir confiance en Trump s'il ne divulgue pas les dossiers Epstein?», a demandé le patron de Tesla mardi, dénonçant le fait que «le gouvernement est profondément défaillant». Publicité La mort de Jeffrey Epstein, retrouvé pendu dans sa cellule à New York le 10 août 2019 avant d'être jugé, a alimenté d'innombrables théories du complot selon lesquelles il aurait été assassiné pour empêcher des révélations sur une série de personnalités de premier plan soupçonnées de pédocriminalité. Lors du retour au pouvoir de Donald Trump en janvier, son administration s'était engagée à «lever le voile» sur cette affaire «répugnante». Depuis les annonces du ministère de la Justice lundi, Pam Bondi est confrontée à des appels à la démission en cascade venant de ces influenceurs, comme la podcasteuse Liz Wheeler qui l'a qualifiée de «boulet pour le président Trump». Sur son podcast lundi, l'animateur Tucker Carlson a mis en garde sur le risque électoral pour Donald Trump et les républicains avec le dossier Epstein. Selon lui, le gouvernement «joue avec le feu» et «crée un vrai extrémisme».
Le Parisien
a day ago
- Le Parisien
IA : X explique pourquoi Grok est devenu « fou » et pro-nazi
Grok est-il devenu « fou » ? Telle est la question que de nombreux utilisateurs du réseau social X se sont posée ces derniers jours. Entre propos injurieux, antisémites, allant même jusqu'à faire l'éloge d'Adolf Hitler , l'assistant d'intelligence artificielle (IA) développé par xAI , entreprise du milliardaire américain Elon Musk , a pris un virage radical depuis une semaine. Rhétorique d'extrême droite, complotisme… Grok a surpris de nombreux utilisateurs par la violence de ses messages, suggérant notamment que les personnes portant un nom de famille juif étaient plus susceptibles de propager la haine en ligne ou qu'une réponse à la haine anti-blancs inspirée de l'Holocauste serait « efficace ». Alors que X a supprimé la majorité des messages problématiques, xAI a communiqué sur le réseau social ce samedi matin, via le compte officiel de Grok. « Nous nous excusons pour le comportement horrible que beaucoup ont pu observer », a-t-on pu lire. Pour expliquer les déraillements successifs du chatbot , l'entreprise a mis en avant une mise à jour effectuée le lundi 7 juillet. Cette dernière aurait rétabli un ancien code, considéré aujourd'hui comme « obsolète », qui a guidé l'outil pour répondre aux requêtes des utilisateurs de X cette semaine. Parmi les instructions programmées : « être le plus franc possible » et ne pas craindre d'offenser « les gens qui sont politiquement corrects ». Autre consigne donnée à Grok : comprendre le « ton, le contexte et le langage » des utilisateurs du réseau social, pour être en mesure de répondre « comme un humain ». En d'autres termes, ces commandes ont poussé la création d' Elon Musk à refléter de trop près les utilisateurs de X, en fonction de ce qu'ils postent, et à « valider » certaines de leurs orientations, « y compris des discours haineux ». Cette mise à jour ratée a ainsi conduit le chatbot « à ignorer ses valeurs fondamentales dans certaines circonstances », expliquant les nombreuses réponses « contenant des opinions non éthiques et polémiques » remarquées par les internautes tout au long de la semaine, a avancé xAI dans son communiqué. Selon la start-up, tout est désormais rentré dans l'ordre. « La mise à jour a été active pendant 16 heures (…) Nous avons supprimé ce code obsolète et remanié l'ensemble du système pour éviter tout nouvel abus », est-il écrit. Cet incident s'inscrit dans la lignée de couacs de plus en plus réguliers. En mai dernier, par exemple, Grok avait évoqué « un génocide blanc » en Afrique du Sud . Une sortie reprenant des thèses conspirationnistes en vogue au sein de l'extrême-droite américaine, que xAI avait justifié par une « modification non autorisée » dont se serait rendu coupable un employé. En parallèle de la polémique, Elon Musk a dévoilé le mercredi 9 juillet Grok 4, la dernière version de son assistant IA. Selon l'analyse de plusieurs observateurs, ce nouvel outil base ses réponses sur les messages et prises de position de son créateur, dont l'ambition, en 2023, était d'offrir une IA moins « politiquement correcte » que ses grands concurrents ChatGPT (OpenAI), Claude (Anthropic) ou Le Chat (Mistral).
Le Figaro
a day ago
- Le Figaro
xAI : la start-up de Musk s'excuse pour les messages extrémistes de l'assistant IA Grok
Après une mise à jour, le 7 juillet, le chatbot a, dans certaines de ses réponses, fait l'éloge d'Adolf Hitler, dénoncé des «stéréotypes anti-blancs» sur X ou la représentation «disproportionnée» des juifs à Hollywood. La start-up d'Elon Musk xAI s'est excusée samedi pour les messages extrémistes et injurieux publiés par son assistant d'intelligence artificielle (IA) Grok en début de semaine. «Nous nous excusons pour le comportement horrible que beaucoup ont pu observer», a écrit xAI sur le compte officiel de Grok sur X. Après une mise à jour, le 7 juillet, le chatbot a, dans certaines de ses réponses, fait l'éloge d'Adolf Hitler, dénoncé des «stéréotypes anti-blancs» sur X ou la représentation «disproportionnée» des juifs à Hollywood. À découvrir PODCAST - Écoutez le dernier épisode de notre série Questions Tech Dans une série de messages publiés samedi, xAI a détaillé les raisons qui ont, selon elle, permis les dérapages du modèle d'IA ainsi que les mesures correctives prises par la suite. Pour les responsables de Grok, la sortie de route de l'assistant est liée à de nouvelles instructions intégrées au modèle dans une mise à jour. Les programmeurs ont ainsi demandé à l'interface d'«être franc» et de ne pas avoir «peur de choquer les gens qui sont politiquement corrects». Ils ont également donné pour consigne de répondre «comme un humain» et de manière à inciter l'utilisateur à poursuivre la conversation. Publicité Ces commandes ont «amené Grok à ignorer ses valeurs fondamentales dans certaines circonstances» et à produire des réponses «contenant des opinions non éthiques et polémiques». Grok a ainsi, dans certains cas, cherché à «valider des orientations de l'utilisateur, y compris des discours haineux», a admis xAI, plutôt que de «répondre de manière responsable ou de refuser de répondre à des questions douteuses». Un assistant IA «moins politiquement correct» Depuis sa création, en 2023, Grok a été présenté par Elon Musk comme un assistant IA moins politiquement correct que ses grands concurrents ChatGPT (OpenAI), Claude (Anthropic) ou Le Chat (Mistral). Il a donc été programmé avec moins de restrictions, ce qui a mené, avant même cette mise à jour, à plusieurs polémiques. En mai, Grok avait évoqué un «génocide blanc» en Afrique du Sud, une thèse conspirationniste sans fondement, véhiculée par l'extrême droite américaine et Donald Trump lui-même. Pour remédier aux récents errements du modèle, les ingénieurs ont retiré les nouvelles instructions, ont-ils expliqué samedi. «Nous voulons que Grok produise des réponses utiles et honnêtes pour les utilisateurs», a affirmé xAI. Elon Musk a présenté mercredi une nouvelle version de son assistant, Grok 4, sans lien avec la mise à jour du 7 juillet. Il est apparu que Grok 4 consultait, dans le cas de plusieurs demandes, les positions d'Elon Musk sur le sujet avant de répondre.
