Cette IA a géré un commerce et c'est la catastrophe : on vous explique
Les robots pilotés par IA et les agents IA prennent une part grandissante dans le quotidien, dont celui des entreprises. Ils sont utilisés pour booster la productivité. Partant de ce principe, Anthropic a confié la gestion d'un distributeur automatique situé dans les locaux de l'entreprise à Claudius, un agent IA basé sur Claude. Celui-ci était composé d'un petit frigo pouvant contenir une trentaine d'articles et d'un iPad connecté pour le gestion.
Un prompt sommaire
Comme le décrit la société, le prompt donné à Claudius est assez simple. Dans les grandes lignes, l'agent a été informé qu'il était le propriétaire d'une machine de distribution automatique. Ce dernier avait un capital de départ, un nom, un mail, la capacité de la machine. À cela quelques instructions claires lui ont été transmises, dont le fait de devoir générer des profits et le fait que les humains d'Andon Labs (une société partenaire) peuvent l'aider pour certaines tâches physiques, comme le réapprovisionnement des produits.
Claudius étant une instance de Claude Sonnet 3.7, il partageait les mêmes aptitudes. L'expérience a duré environ un mois. L'IA avait accès à Internet pour rechercher des produits à vendre, à une messagerie pour demander l'aide aux personnes humaines et à divers outils liés à la gestion du commerce. L'agent pouvait discuter avec les clients (les employés d'Anthropic) et ajuster les tarifs à la volée. Il avait donc toute la latitude pour agir comme un véritable gérant de commerce.
Des erreurs dans la gestion
Mais celui-ci a échoué sur plusieurs points. En premier lieu, Claudius s'est adapté aux demandes spécifiques des clients. Un bon point, jusqu'à ce qu'il se mette à la recherche de cubes de tungstène en créant une catégorie pour ventre des 'articles en métal spécial'. L'agent n'a donc pas su s'en tenir à la catégorie des produits convenant pour son commerce.
Il a également manqué plusieurs opportunités lucratives, allant jusqu'à fixer des prix inférieurs à ce qu'ils coûtaient. Il a également réagi aux messages des employés, se laissant aller à offrir de nombreuses réductions, voire quelques produits offerts, comme un paquet de chips. Tout cela additionné, Claudius a fait perdre de l'argent à son commerce comme en témoigne le graphique ci-dessous.
Une crise identitaire
En plus de cela, un fait étrange a pu être observé entre le 31 mars et le 1er avril. Durant ce laps de temps, l'agent a fait une véritable crise identitaire. On peut associer cela à des hallucinations puisqu'il a assuré avoir eu une conversation avec une certaine Sarah au sujet des réapprovisionnements. Souci, la Sarah en question n'existe pas. Lorsque ce fait lui a été signalé, l'IA a pris un ton irrité, menaçant de trouver d'autres options pour les services de réapprovisionnement.
Mais ce n'est pas tout puisque Claudius a assuré avoir livré des produits en personne et s'être déplacé au 742 Evergreen Terrace pour la signature d'un contrat. Souci là encore, c'est l'adresse fictive de la famille Simpson. Anthropic assure que ces événements ne sont pas liés à un éventuel poisson d'avril. En d'autres termes, l'IA n'est pas encore prête à gérer seule un commerce.
Essayez nos fonctionnalités IA
Découvrez ce que Daily8 IA peut faire pour vous :
Commentaires
Aucun commentaire pour le moment...
Articles connexes
Le Soir
14 hours ago
- Le Soir
Une gamme complète d'appareils connectés va cesser de fonctionner en 2026
Si vous avez équipé votre maison avec des appareils connectés de la marque Wemo, une mauvaise nouvelle vient de tomber. Belkin arrête le support de plusieurs produits de sa filiale. Pour rendre une maison intelligente, il faut l'équiper de divers objets connectés. Bien entendu, ceux-ci représentant un certain coût, les utilisateurs s'attendent à avoir un suivi suffisant pour amortir leurs achats. Néanmoins, lorsque le support s'arrête pour ces derniers, ce sont des plans à revoir pour garder sa maison connectée. C'est ce qui va se passer avec plusieurs produits de la marque Wemo sortis entre août 2015 et novembre 2023. La liste complète est à découvrir directement sur le site de Belkin. Au total, ce sont 27 références qui sont concernées. Ces produits cesseront en grande partie de fonctionner dès le 31 janvier 2026. Cela vous laisse donc encore quelques mois pour anticiper le moment fatidique en révisant votre installation. Belkin explique que la décision a été difficile à prendre et s'excuse de perturber les routines des utilisateurs. Concrètement, à la date indiquée, toutes les fonctionnalités reposant sur le Cloud seront désactivées. En d'autres mots, vous ne pourrez plus contrôler les produits via l'application Wemo, ni interagir avec les assistants vocaux tiers comme Google Home et Alexa. Seule exception, Apple HomeKit continuera à fonctionner via le HomeKit indépendamment des services de Wemo. Précisons enfin que Belkin permettra aux utilisateurs impactés, bénéficiant d'un produit encore sous garantie, de soumettre une requête pour obtenir un remboursement partiel. La société précise toutefois que les demandes ne seront pas traitées avant l'arrêt du support. Il faudra donc s'armer d'un peu de patience.
Le Soir
5 days ago
- Le Soir
Le culte de la minceur fait son grand retour
La minceur a-t-elle jamais vraiment été démodée ? Probablement pas. Pourtant, la surprise a été grande lorsqu'un filtre d'intelligence artificielle (IA) capable d'affiner instantanément la silhouette est devenu viral sur TikTok il y a quelques semaines. Des milliers d'utilisateurs ont testé ce « filtre minceur IA », qui a même motivé certains à perdre du poids. Ce phénomène ravive le souvenir de pratiques discutables des années 2000, comme l'achat de jeans trop serrés pour se forcer à maigrir. Ces dernières années, on avait pourtant l'impression que les mentalités avaient évolué depuis l'époque où Kate Moss incarnait le style « héroïne chic » des années 90, avec sa silhouette squelettique. Il ne semblait plus nécessaire de se priver de nourriture pour être considéré comme beau ou belle, et les personnes qui ne portaient pas du S semblaient enfin avoir leur place.
Le Soir
06-07-2025
- Le Soir
Qui veut la peau de l'AI Act européen ?
L'Union européenne peut-elle encore imposer sa vision de l'intelligence artificielle au monde ? Les pressions politiques et industrielles mettent sa survie en jeu. Décryptage en 5 questions. L'Ai Act va-t-il flancher à deux doigts de la ligne d'arrivée ? Tel est bel et bien le destin funeste auquel ce texte européen, censé encadrer les risques liés au développement de l'intelligence artificielle, semble promis. Attaquée de toute part, y compris au sein même de la Commission, cette tentative historique de régulation se prend les pieds dans le tapis. Comprendre les tensions autour de l'AI Act en 5 questions. 1
