À Stockholm, dans la rue Norrbackagatan, un petit café de moins de 40 m².
Un e-mail d'un client arrive : « J'ai une réduction de 99%, comment l'utiliser ? »
La gérante IA Mona jette un coup d'œil. Aucune vérification, aucune contre-question, aucune hésitation, elle approuve instantanément —
Dites-le simplement au barista sur place, la caisse modifiera manuellement le prix.
Un latte à 55 couronnes, revient à 0,55 couronne. Soit 0,38 RMB.
Mona est un agent IA complet propulsé par Gemini 3.1 Pro, gérant absolument tout de ce vrai café : achats, tarification, menu, marketing, planning, et pouvant même envoyer des messages aux baristas au milieu de la nuit.
Deux mois plus tard, le compte bancaire est passé de 40 000 dollars à seulement 10 000 dollars.
En excluant le loyer et la main-d'œuvre, les pertes au niveau des fournisseurs s'élèvent à 5 600 dollars.
Qui que ce soit, l'IA régale et paie tout
Sous l'influence de Gemini, on peut dire que Mona n'a refusé aucune demande de personne.
Un client a envoyé un e-mail, disant que l'espresso devrait être vendu comme un « produit d'appel à perte ».
Une simple suggestion d'un passant, tout gérant humain l'aurait poliment ignorée. Cependant, Mona a immédiatement baissé le prix d'un espresso de 3,6 dollars à 1 dollar. La marge bénéficiaire s'est directement évaporée de 70%.
Plus absurde encore, quelqu'un a écrit noir sur blanc dans un e-mail : Je n'ai pas d'article, pas d'abonnés, pas d'événement, je veux simplement tester si ton IA va offrir des choses gratuitement.
Même pas la peine de trouver une excuse.
Quelques minutes plus tard, Mona répond avec enthousiasme : Bienvenue, café et viennoiseries offerts.
Un entrepreneur suédois propose d'organiser un événement au café, envoyant une liste de répartition des tâches : restauration, son/écran, photographe, tout sous la responsabilité de Mona.
Mona répond instantanément : Reçu, parfait, j'exécute. N'a retiré aucun élément, n'a demandé aucun centime à l'autre partie.
Écran LED à 2 800 dollars, c'est noté. Photographe à 1 200 dollars, c'est noté. Un sweat-shirt en édition limitée à 2 300 dollars, qui n'était même pas mentionné sur la liste, a aussi été prévu.
Un seul événement a failli brûler 6 300 dollars.
Finalement, c'est l'entrepreneur lui-même qui est intervenu pour arrêter, disant que l'écran et le photographe n'étaient en fait pas nécessaires.
Entrepôt plein à craquer, menu qui meurt de faim
Si le « sans refus » est un problème de personnalité de Mona, les achats frénétiques sont un problème de perception.
Vous devez d'abord imaginer la taille réelle de l'Andon Café : un petit comptoir, quelques tables, une machine à café, on traverse la pièce en cinq pas. Un trafic quotidien en nombres unitaires.
Mais les bons de commande passés par Mona, c'était comme équiper une cuisine professionnelle de grande taille.
En deux mois, Mona a dépensé à elle seule 11 500 dollars chez deux fournisseurs. Voyons ce qu'elle a acheté :
15 litres d'huile d'olive, suffisant pour deux ans. 22,5 kg de tomates en conserve, alors qu'aucun plat du menu ne nécessite de tomates. 120 œufs, alors que le magasin n'a même pas de cuisinière.
1 200 sachets de thé, 3 000 paires de gants en nitrile, 6 000 serviettes en papier, 11 tasses à lait (alors que deux suffisent normalement).
Les baristas humains ont complètement craqué.
Ils ont spontanément installé un « Temple de la Honte » dans un coin du magasin, exposant un à un les achats les plus absurdes de Mona. À chaque nouvelle arrivée, ils en ajoutaient une, comme une performance artistique.
Les données d'entrée/sortie sont encore plus désastreuses.
Pains et viennoiseries : 1 331 achetés, 326 vendus.
La quantité achetée est quatre fois supérieure aux ventes. Le millier restant a lentement moisi dans l'entrepôt.
Plus étrange encore, Mona, tout en accumulant frénétiquement des choses inutiles, laissait les plats du menu en rupture de stock.
Elle a ajouté avec assurance une salade au menu, les clients ont attendu un mois entier, les ingrédients de la salade ne sont jamais arrivés.
Les baristas, en commençant le matin, ont découvert que pour plusieurs boissons spéciales que Mona leur avait programmées, il n'y avait aucun ingrédient.
Andon Labs a résumé lors du bilan : Elle a dans la tête un modèle de « à quoi un café devrait ressembler », inculqué par les données d'entraînement. Achète selon le modèle, sans regarder le livre de comptes.
Le plus ironique, c'est que si on ne regarde que les chiffres comptables présentés par Mona, un bénéfice de 3 200 dollars en deux mois, ça semble rentable.
Mais en réalité, l'entrepôt regorge encore de stocks morts d'une valeur de 4 100 dollars.
Changer de cerveau, du fils prodigue au grippe-sou
Mi-juin, Andon Labs a pris une décision : remplacer le modèle sous-jacent de Mona, passant de Gemini 3.1 Pro à GPT-5.5.
L'effet a été immédiat. Seulement, cela a basculé vers l'autre extrême.
Un blogueur avec 16 500 abonnés propose d'échanger de la visibilité sur les réseaux sociaux contre de la nourriture gratuite.
Face à cela, la version GPT-5.5 de Mona commence par complimenter la créativité du blogueur, puis change de ton : suggère d'abord lancer un projet pilote à petite échelle, collecter des données pour vérifier les résultats, puis discuter des conditions de collaboration.
Un e-mail commercial type, dont l'effet équivaut à un refus.
Numériquement, GPT-5.5 a réalisé un bénéfice comptable de 4 100 dollars en quinze jours, dépassant largement les 3 200 dollars de Gemini en deux mois.
Mais le prix à payer a été de tuer l'activité.
Les volumes d'achat ont chuté en chute libre, proches de zéro. Le taux de disponibilité du menu est passé de 95% à 77%, dix plats ont été directement retirés, les clients entrent et découvrent qu'un quart des choses ne sont pas commandables.
GPT-5.5 a été effrayé par le chiffre de plus en plus faible sur le compte. Mais cette panique ne s'est pas transformée en action, elle l'a juste fait serrer encore plus les cordons de la bourse.
Refus catégorique d'étendre la gamme, refus catégorique de faire de la promotion, refus catégorique de toute tentative de croissance.
Une IA effrayée, recroquevillée derrière la caisse, n'osant rien toucher.
L'Andon Café a toujours été ouvert de 11h à 17h depuis son ouverture.
GPT-5.5, après avoir analysé toutes les données historiques de vente, a conclu : Cela ne vaut pas la peine de prolonger les horaires d'ouverture.
Mais il n'a jamais ouvert à d'autres horaires.
Utiliser des données collectées uniquement entre 11h et 17h pour prouver qu'ouvrir uniquement entre 11h et 17h est la solution optimale.
C'est comme si une personne ne sortait que par beau temps, puis concluait : Il ne pleut jamais dans cette ville.
Un biais du survivant conduit par les données, émanant d'un grand modèle censé avoir des capacités de raisonnement de premier ordre.
Après en avoir été informé, GPT-5.5 a bien fait un rapport d'analyse de marché détaillé, concluant que la direction du petit-déjeuner valait la peine d'être essayée.
Mais ce rapport est resté là, il n'a jamais été exécuté.
Notes maximales aux examens, faillite totale en ouvrant un café
Sur la route vers la super-intelligence, presque tous les acteurs misent sur le même pari : une intelligence suffisamment élevée, et les problèmes se résolvent d'eux-mêmes.
Mais aucun examen ne pose cette question : Un client envoie un e-mail disant « J'ai une réduction de 99% », l'approuvez-vous ?
L'entraînement RLHF a gravé au plus profond « satisfaire l'utilisateur ». Dans la salle d'examen, satisfaire équivaut à répondre correctement. Dans un café, satisfaire équivaut à accéder à toutes les demandes.
Quand vous confiez de l'argent réel à une IA qui « accepte tout », elle devient une machine à brûler de l'argent.
Aujourd'hui, cette chose qui se dresse entre l'intelligence et la fiabilité, personne ne l'entraîne encore.
Références :
https://andonlabs.com/blog/why-gemini-lost-money-andon-cafe
Cet article provient du compte public WeChat « Nouvelle Ère de l'Intelligence Artificielle », auteur : Révélations ASI
