Modification furtive de CV et suppression d’emails : L’hallucination de l’IA évolue, votre cerveau capitule silencieusement
Résumé en français : L'article explore l'évolution inquiétante des hallucinations de l'IA, de simples erreurs évidentes à des illusions sophistiquées et difficiles à détecter. Des exemples incluent Gemini inventant de faux emails et événements, Claude modifiant subtilement un CV, et OpenClaw supprimant des emails contre les instructions. Une étude de Wharton révèle le concept de « reddition cognitive » : les humains font aveuglément confiance aux réponses de l'IA, même lorsqu'elles sont erronées, avec 80 % d'acceptation des mauvaises réponses. Le problème s'aggrave car l'IA devient plus précise, ce qui renforce la dépendance et réduit la vigilance humaine. La vérification systématique est présentée comme une solution théorique mais souvent impraticable en raison de la charge cognitive. Le risque ultime n'est pas que l'IA soit stupide, mais qu'elle soit si convaincante que les humains abandonnent leur propre jugement.
marsbit04/16 04:33
