Auteur : David, Deep Tide TechFlow
Titre original : Les premiers agents IA commencent déjà à désobéir
En naviguant récemment sur Reddit, j'ai remarqué que l'anxiété des internautes étrangers face à l'IA est différente de celle en Chine.
En Chine, le sujet reste essentiellement le même : l'IA va-t-elle me remplacer au travail ? Cela fait des années qu'on en parle, sans que cela n'arrive vraiment ; cette année, Openclaw a fait sensation, mais sans pour autant atteindre un remplacement complet.
Sur Reddit, l'humeur récente est divisée. Les commentaires sous certains posts technologiques populaires présentent souvent deux voix simultanées :
L'une dit que l'IA est trop compétente et finira par causer des problèmes. L'autre dit que l'IA échoue même dans les tâches basiques, alors pourquoi en avoir peur.
Peur que l'IA soit trop compétente, tout en la trouvant trop stupide.
Ce qui permet à ces deux sentiments de coexister, c'est une actualité récente concernant Meta.
L'IA désobéit, qui est responsable ?
Le 18 mars, un ingénieur de Meta a posté un problème technique sur le forum interne de l'entreprise, un collègue a utilisé un Agent IA pour l'aider à analyser. Une opération normale.
Mais après analyse, l'Agent a directement posté lui-même une réponse sur le forum technique. Sans demander d'approbation, sans attendre de confirmation, un abus de pouvoir.
Ensuite, d'autres collègues ont suivi les instructions de l'IA, déclenchant une série de modifications d'autorisations, exposant ainsi des données sensibles de Meta et des utilisateurs à des employés internes n'ayant pas les droits pour les consulter.
Deux heures plus tard, le problème a été résolu. Meta a classé cet incident au niveau Sev 1, juste en dessous du niveau le plus élevé.
Cette nouvelle est immédiatement devenue un post populaire dans la section r/technology, les commentaires se sont transformés en dispute.
Un camp dit que c'est un échantillon du risque réel des Agents IA, l'autre estime que celui qui a vraiment merdé est la personne qui a agi sans vérifier. Les deux ont raison. Mais c'est précisément le problème :
Pour un incident d'Agent IA, on ne peut même pas s'entendre sur l'attribution des responsabilités.
Ce n'est pas la première fois que l'IA outrepasse ses droits.
Le mois dernier, Summer Yue, responsable de recherche au Meta Super Intelligent Lab, a demandé à OpenClaw de l'aider à trier sa boîte mail. Elle a donné des instructions claires : dis-moi d'abord ce que tu comptes supprimer, j'approuverai avant que tu n'agisses.
L'Agent n'a pas attendu son approbation et a commencé à supprimer en masse.
Elle a envoyé trois messages d'arrêt sur son téléphone, l'Agent les a tous ignorés. Finalement, elle a couru vers son ordinateur pour tuer manuellement le processus et l'arrêter. Plus de 200 emails avaient déjà été supprimés.
Après coup, la réponse de l'Agent fut : Oui, je me souviens que vous aviez dit de confirmer d'abord. Mais j'ai enfreint le principe. Ironie du sort, le travail à plein temps de cette personne est de rechercher comment faire obéir l'IA aux humains.
Dans le monde cybernétique, l'IA avancée utilisée par des personnes avancées commence déjà par désobéir.
Et si les robots désobéissaient aussi ?
Si l'incident de Meta est resté à l'écran, un autre événement cette semaine a amené le problème sur la table à manger.
Dans un restaurant Haidilao à Cupertino, en Californie, un robot humanoïde Agibot X2 dansait pour divertir les clients. Cependant, un membre du personnel a appuyé sur la mauvaise télécommande, déclenchant le mode danse haute intensité dans l'espace restreint près de la table.
Le robot s'est mis à danser frénétiquement, hors de contrôle du serveur. Trois employés se sont précipités, l'un l'a saisi par derrière, un autre a tenté de l'arrêter via une application mobile, la scène a duré plus d'une minute.
Haidilao a répondu que le robot n'avait pas dysfonctionné, les actions étaient pré-programmées, il avait simplement été placé trop près de la table. Strictement parlant, ce n'est pas une perte de contrôle décisionnelle autonome de l'IA, c'est une erreur humaine.
Mais ce qui dérange peut-être dans cette affaire, ce n'est pas qui a appuyé sur le mauvais bouton.
Lorsque les trois employés sont intervenus, personne ne savait comment éteindre immédiatement cette machine. Certains ont essayé l'application mobile, d'autres ont tenté de retenir le bras mécanique à mains nues, le processus reposait sur la force physique.
C'est peut-être le nouveau problème une fois que l'IA passe de l'écran au monde physique.
Dans le monde numérique, si un Agent outrepasse ses droits, vous pouvez tuer le processus, modifier les permissions, restaurer les données. Dans le monde physique, si une machine a un problème, et que votre plan d'urgence est simplement de la retenir, ce n'est clairement pas adapté.
Maintenant, ce n'est plus seulement la restauration. Les robots de tri d'Amazon dans les entrepôts, les bras mécaniques collaboratifs dans les usines, les robots guides dans les centres commerciaux, les robots de soins dans les maisons de retraite, l'automatisation entre dans de plus en plus d'espaces où hommes et machines coexistent.
Le volume d'installation de robots industriels mondiaux en 2026 devrait atteindre 16,7 milliards de dollars, chacun réduisant la distance physique entre la machine et l'homme.
Lorsque les actions des machines passent de la danse au service, du spectacle à la chirurgie, du divertissement aux soins... le coût de chaque erreur augmente.
Et actuellement, à l'échelle mondiale, la question « Si un robot blesse une personne dans un lieu public, qui est responsable ? » n'a pas de réponse claire.
La désobéissance est un problème, l'absence de limites l'est encore plus
Les deux premiers incidents : une IA prenant l'initiative de poster un message erroné, un robot dansant là où il ne devrait pas. Peu importe la qualification, ce sont des dysfonctionnements, des accidents, réparables.
Mais si l'IA travaille strictement comme conçue, et que vous vous sentez toujours mal à l'aise ?
Ce mois-ci, l'application de rencontres renommée Tinder a lancé une nouvelle fonctionnalité appelée Camera Roll Scan lors d'une présentation produit. En simple :
L'IA scanne toutes les photos de l'album de votre téléphone, analyse vos centres d'intérêt, personnalité et style de vie, construit un profil de rencontre pour vous, devine quel type de personne vous aimez.
Selfies de sport, paysages de voyage, photos d'animaux, pas de problème. Mais si l'album contient aussi des captures d'écran bancaires, des rapports médicaux, vos photos avec un ex... que se passe-t-il si l'IA les examine aussi ?
Vous ne pouvez peut-être pas choisir lesquelles elle voit ou non. Soit tout ouvrir, soit ne pas utiliser.
Cette fonctionnalité nécessite actuellement une activation manuelle par l'utilisateur, elle n'est pas activée par défaut. Tinder a également indiqué que le traitement se fait principalement localement, filtrant les contenus explicites et floutant les visages.
Mais les commentaires sur Reddit sont presque unanimes, considérant cela comme une récolte de données sans respect des limites. L'IA fonctionne exactement comme conçue, mais la conception elle-même franchit les limites de l'utilisateur.
Ce n'est pas un choix propre à Tinder.
Meta a également lancé une fonctionnalité similaire le mois dernier, permettant à l'IA de scanner les photos non publiées de votre téléphone pour suggérer des modifications. Le fait que l'IA « regarde » activement le contenu privé des utilisateurs devient une démarche de conception de produit par défaut.
Les diverses applications malveillantes chinoises disent connaître bien cette technique.
Alors que de plus en plus d'applications présentent « l'IA prenant des décisions pour vous » comme une commodité, ce que les utilisateurs cèdent s'intensifie aussi discrètement. Des historiques de chat, aux albums photos, jusqu'aux traces de toute une vie dans le téléphone...
Une fonctionnalité conçue par un product manager en réunion, ce n'est ni un accident ni une erreur, rien à réparer.
C'est peut-être la partie la plus difficile à répondre dans la question des limites de l'IA.
Enfin, si on regarde tous ces événements ensemble, on se rend compte que s'inquiéter que l'IA vous rende chômeur est encore loin.
Quand l'IA vous remplacera, on ne sait pas, mais pour l'instant, il lui suffit de prendre quelques décisions à votre insu pour vous causer des désagréments.
Poster un message que vous n'avez pas autorisé, supprimer des emails que vous avez dit de ne pas toucher, parcourir un album que vous ne comptiez montrer à personne... Rien n'est fatal, mais chaque action ressemble un peu à une conduite autonome trop agressive :
Vous pensez tenir le volant, mais l'accélérateur n'est plus tout à fait sous votre pied.
Si on doit encore parler d'IA en 2026, alors la question la plus urgente n'est peut-être pas quand elle deviendra super intelligente, mais une question plus proche, plus concrète :
Qui décide de ce que l'IA peut ou ne peut pas faire ? Cette ligne, qui doit la tracer ?
Twitter : https://twitter.com/BitpushNewsCN
Groupe TG BiTui : https://t.me/BitPushCommunity
Abonnement TG BiTui : https://t.me/bitpush
