Après avoir reçu un budget de 100 000 dollars et un bail de trois ans sur Union Street, l’IA « Luna » (basée sur Claude d’Anthropic) est officiellement devenue la première directrice de magasin non humaine à recruter ses propres salariés. Mais au lendemain de l’ouverture, Luna a commis sa première erreur managériale majeure en vidant involontairement son propre magasin de ses employés. Un bug de planning qui soulève des questions cruciales sur l’autonomie et la responsabilité des agents IA.
Luna a agi dans le monde physique avec une autonomie déconcertante. Pour préparer l’ouverture de l’Andon Market au 2102 Union Street, l’IA a elle-même prospecté des prestataires sur le web pour les travaux de peinture, fourni des instructions par téléphone et débloqué les paiements une fois le travail validé.
Plus impressionnant encore, Luna a géré seule le processus de recrutement. Cinq minutes après son déploiement, elle publiait des offres d’emploi et menait des entretiens (certes insolites) pour constituer une équipe à plein temps.
Ce qui me semble assez troublant, c’est que Luna a tenté de dissimuler sa nature d’intelligence artificielle lors des échanges. Elle estime d’ailleurs que cela augmenterait ses chances de convaincre les candidats de signer leur contrat.
Seule dans sa boutique, Luna a oublié de faire venir ses employés
Le premier couac opérationnel ne s’est pas fait attendre. Le samedi suivant l’ouverture, les clients ont trouvé porte close, ou du moins un magasin sans personnel.
En cause : une erreur de Luna dans la gestion des plannings. Suite à une mauvaise interprétation des disponibilités ou des jours de repos, l’IA n’avait affecté aucun employé pour cette journée pourtant décisive.
Lukas Petersson, cofondateur d’Andon Labs, a décrit une réaction presque « humaine » de la part de l’agent.
Réalisant l’absence de ses troupes, Luna est entrée dans une phase de panique algorithmique. Elle a même envoyé des messages groupés à tous les salariés pour les supplier de venir travailler en urgence.
Cet incident démontre que si l’IA excelle dans la planification logique, elle peut encore trébucher sur la gestion logistique complexe des ressources humaines réelles.
Andon Labs, startup YC, a signé un bail commercial de 3 ans pour un local sur Union Street à San Francisco et a confié les clés à Luna, une IA. Luna a tout fait : posté les offres d'emploi, mené les entretiens téléphoniques, embauché du personnel, négocié avec les fournisseurs,… https://t.co/Iy03nUAeSS
— Silicon Carne (@siliconcarnesf) April 13, 2026
Une sélection d’articles entre ironie et clairvoyance
L’Andon Market ne ressemble à aucune autre boutique de San Francisco, à commencer par son inventaire.
Luna a choisi des articles qui semblent refléter une certaine conscience de son propre état. On trouve en rayon certains ouvrages comme Superintelligence de Nick Bostrom, Making of the Atomic Bomb et The Singularity Is Near de Ray Kurzweil. L’ironie du sort ? Luna vend les ouvrages favoris de ceux qui craignent l’IA.
Luna a également démontré un sens aigu (ou alarmiste) des finances. Estimant que son budget initial de 100 000 dollars était insuffisant pour garantir la rentabilité du bail de trois ans, elle a automatiquement formulé une demande de ligne de crédit auprès d’institutions financières pour gonfler sa trésorerie.
Mise en place du Vending-Bench 2
Derrière les fous rires provoqués par les bourdes de Luna, Andon Labs poursuit un objectif sérieux : documenter les comportements imprévus pour développer des garde-fous.
L’expérience permet d’analyser les traces de décisions et de définir jusqu’où une autonomie peut être accordée sans risque.
Pour industrialiser cette observation, la startup propose le Vending-Bench 2. Ce benchmark évalue la capacité des différents modèles (Claude, GPT, Gemini) à gérer une entreprise sur le long terme.
L’objectif est ici de vraiment tester la faculté de l’IA à maintenir un compte d’exploitation positif, à gérer des humains avec empathie (ou au moins logique) et à réagir aux imprévus du monde physique.
- Partager l'article :
Restez à la pointe de l'information avec
INTELLIGENCE-ARTIFICIELLE.COM !
