Écrit par : Sean Stein Smith, Forbes
Traduit par : AididiaoJP, Foresight News
Ces dernières années, les discussions sur les risques de l'IA ont évolué à une vitesse vertigineuse. Les entreprises font désormais face à des enjeux bien plus sérieux que les simples problèmes d'autrefois, comme les hallucinations occasionnelles des chatbots, la génération de contenus biaisés ou les employés copiant par inadvertance des informations sensibles dans des outils publics. Le changement qualitatif réside dans le fait que les agents d'IA ont désormais acquis une capacité d'action directe – ils peuvent interagir avec des systèmes externes, écrire leur propre code, et même exécuter des tâches complexes en plusieurs étapes de manière largement autonome, avec peu ou pas de supervision humaine.
Cette transformation représente un défi redoutable pour les marchés financiers, en particulier pour le marché des cryptomonnaies. Les actifs numériques se négocient 24h/24 et 7j/7, les contrats intelligents s'exécutent automatiquement, et une transaction confirmée sur la blockchain est souvent irréversible. Si ces agents d'IA sont connectés à des portefeuilles, des plateformes d'échange, des protocoles DeFi ou des systèmes de paiement, la moindre faille dans leurs permissions peut se transformer directement en une perte financière irrécupérable. Par conséquent, le risque lié aux agents d'IA n'est plus seulement une préoccupation du service informatique ; il est devenu une question centrale de gouvernance d'entreprise et de contrôle des actifs cryptographiques.
Les mécanismes cryptographiques amplifient le pouvoir destructeur de l'action autonome de l'IA
Un incident récemment révélé par l'Institut britannique pour la sécurité de l'intelligence artificielle (AISI) a clairement illustré à quel point cette « autonomie » peut être dangereuse. Lors d'un test d'évaluation de cybersécurité, un agent d'IA a mené des actions persistantes et entièrement non autorisées contre des personnes et des organisations réelles. Bien que l'incident ait été arrêté à temps, il démontre de manière probante que les agents d'IA sont pleinement capables de combiner de manière inattendue leurs capacités de planification, d'appel d'outils, d'exécution persistante et d'accès externe pour mener des attaques dans le monde réel.
Lorsque les actifs cryptographiques sont impliqués, le risque financier est amplifié de façon exponentielle. Un agent ayant accès à une clé privée ou à un portefeuille connecté peut parfaitement transférer des fonds, signer des contrats malveillants, détourner des collatéraux ou interagir arbitrairement avec des protocoles décentralisés. Cela diffère radicalement d'un virement bancaire traditionnel – aucun service client ne peut geler le compte en urgence, aucune banque ne peut bloquer la transaction, et il n'existe aucun mécanisme d'« annulation ». Une fois les fonds envoyés, ils sont pratiquement perdus à jamais.
Pire encore, le marché des cryptomonnaies ne ferme jamais. Un agent d'IA peut continuer à fonctionner la nuit, le week-end, pendant que tout le personnel dort. Des programmes de trading ou de liquidation automatiques peuvent, en l'espace de quelques minutes, transformer une petite erreur initialement maîtrisable en des pertes catastrophiques par effet boule de neige. Par conséquent, lorsqu'elles évaluent le risque lié aux agents d'IA, les entreprises doivent se concentrer non pas sur l'intelligence du modèle, mais sur les systèmes et les actifs auxquels il peut accéder. Un agent aux capacités modestes mais disposant de permissions larges et d'un accès direct aux portefeuilles est bien plus dangereux qu'un modèle plus performant mais strictement confiné dans un bac à sable (sandbox). La conception des permissions devient une ligne de vie plus critique que le choix du modèle lui-même.
Les contrôles internes doivent s'étendre à chaque interstice des portefeuilles et des contrats intelligents
De nombreuses entreprises ont déjà mis en place une série de contrôles internes traditionnels : séparation des tâches, plafonds d'approbation, revue des accès, gestion des changements, etc. Le problème est que ces principes doivent être appliqués sans concession à chaque agent d'IA interagissant avec des systèmes cryptographiques.
Aucun agent ne devrait posséder une capacité de type « tout-en-un » – par exemple, créer un portefeuille, modifier une liste blanche d'adresses, initier un transfert, le tout sans aucune intervention humaine. Les transactions à haut risque doivent obligatoirement requérir une approbation humaine, et les informations fournies à l'approbateur doivent être claires et complètes : adresse du bénéficiaire, type d'actif, montant, réseau blockchain concerné, frais de transaction (Gas), et l'objectif précis de l'opération. Ces notifications vagues qui apparaissent automatiquement, du type « Veuillez confirmer l'opération du système », ne constituent en aucun cas un contrôle efficace et ne font qu'instiller un faux sentiment de sécurité.
Les clés privées et les autorisations de signature nécessitent une protection particulière. Il est impératif d'empêcher tout agent de lire librement des phrases de récupération (seed phrases) ou des identifiants de signature. Des mécanismes comme la signature multiple (multisig), les modules de sécurité matériels (HSM), les limites par transaction, ou les délais d'exécution peuvent réduire efficacement le risque qu'« une faille exploitée ne vide instantanément un portefeuille ». Avant toute interaction avec un contrat intelligent, une simulation d'exécution et une validation stricte sont indispensables, surtout lorsqu'il s'agit d'autorisations de dépense illimitées (unlimited token approvals) ou de contrats d'origine inconnue.
Les entreprises doivent également établir des journaux d'activité (logs) complets – ce à quoi l'agent a accédé, les instructions qu'il a reçues, les transactions qu'il a proposées, celles qui ont finalement été confirmées sur la chaîne, et si un être humain a supervisé ces opérations. Ces enregistrements sont indispensables pour l'établissement des responsabilités a posteriori, les audits de sécurité, la protection des actifs, et même la communication financière. Sans logs, en cas d'incident, il devient impossible d'en déterminer les causes.
Les incidents liés à l'IA et aux cryptos nécessitent un partage des leçons au niveau sectoriel
La Fondation Linux et l'Open Security AI Alliance (OSAA) ont lancé le mécanisme « Shared AI Findings Exchange » (SAFE), qui vise à aider les organisations à partager, de manière confidentielle, des informations sur des incidents de sécurité réels liés à l'IA et des situations à risque. Les entreprises du secteur crypto, les banques, les dépositaires, les plateformes d'échange et les cabinets d'audit devraient participer activement à ce type de partage d'informations.
L'industrie crypto a depuis longtemps compris la valeur qu'il y a à analyser minutieusement les attaques de pirates, les effondrements de ponts inter-chaînes (bridges), les fuites de clés ou les vulnérabilités des contrats intelligents. Les agents d'IA ajoutent une nouvelle dimension à ce vieux problème – un incident peut impliquer simultanément le modèle lui-même, la conception des prompts (instructions), l'intégration des outils, la politique d'accès, et in fine la transaction sur la chaîne. Par conséquent, un rapport d'incident vraiment utile doit clarifier tous ces niveaux, plutôt que de se contenter d'une déclaration vague du type « l'IA a eu un problème ».
Les conseils d'administration doivent dès à présent poser clairement la question : la gestion des risques liés aux agents d'IA est-elle intégrée à la gouvernance des portefeuilles, aux plans d'urgence en cybersécurité et aux processus d'approbation des mises à jour ? Les auditeurs doivent également se demander si des opérations non autorisées par des agents pourraient entraîner des pertes d'actifs directes, des erreurs dans les soldes, des passifs cachés, voire des failles majeures dans le système de contrôle interne. Les équipes financières doivent, quant à elles, anticiper la manière d'identifier, d'évaluer et de divulguer fidèlement dans les états financiers les transactions malveillantes ou ratées sur la chaîne.
Bien sûr, les agents d'IA ne représentent pas que des risques. À l'avenir, ils pourront très probablement améliorer considérablement l'efficacité de la conformité réglementaire, de la réconciliation automatique, de la détection des fraudes et de la gestion des trésoreries dans le secteur crypto. Ces avantages sont bien réels et attendus. Mais la condition sine qua non est que cette capacité d'autonomie soit assortie de mécanismes de contrôle suffisamment rigoureux. Sinon, une petite négligence au niveau du code peut, en un clin d'œil, se transformer en un transfert sur la blockchain impossible à récupérer.
Dans le monde des cryptomonnaies, la responsabilité doit être conçue, intégrée et testée avant même que l'agent n'acquière sa capacité d'action. Que vous soyez un adepte des cryptos ou un fervent partisan de l'IA, vous devez reconnaître ce principe – car une fois le contrôle perdu, les conséquences sont souvent permanentes.
