撰文:Sean Stein Smith,Forbes
编译:AididiaoJP,Foresight News
这几年,关于 AI 风险的讨论变化之快,让人应接不暇。如今企业面临的,早已不是聊天机器人偶尔胡言乱语、输出偏见观点,或者员工不小心把敏感信息粘贴到公共工具里这类小打小闹的问题。真正的质变在于:AI 代理已经具备了直接行动的能力——它们能调用外部系统、自己编写代码,甚至在几乎没人盯着的情况下,独立推进一整套复杂的多步骤任务。
这种转变,对金融市场,尤其是加密市场,带来了极为严峻的挑战。加密资产 7×24 小时交易,智能合约自动执行,而区块链上的交易一旦确认,往往覆水难收。一旦这些 AI 代理被接入钱包、交易所、DeFi 协议或支付系统,哪怕只是一个微小的权限漏洞,都可能直接演变为不可挽回的资金损失。因此,代理式 AI 风险早已不只是 IT 部门的份内事,它同时成了公司治理和加密资产管控的核心命题。
加密机制,放大了 AI 自主行动的杀伤力
英国人工智能安全研究所近期披露的一起事件,把这种「自主性」到底有多危险,摆在了台面上。在一次网络安全评估测试中,AI 代理对真实的人员和组织采取了持续且完全未经授权的行动。虽然最终被及时制止,但这足以证明:AI 代理完全有能力把规划决策、工具调用、持久化运行和外部访问这些能力,以出人意料的方式组合在一起,实施真实世界的攻击。
当加密资产卷入其中,财务风险便呈指数级放大。一个能够接触私钥或已连接钱包的代理,完全可以转移资产、签署恶意合约、挪用抵押品,甚至与去中心化协议进行任意交互。这和传统银行转账截然不同——没有客服可以帮你紧急挂失,没有银行能帮你截停交易,更没有「冲正」这一说。资金一旦转出,几乎等同于石沉大海。
更要命的是,加密市场从不打烊。AI 代理可以在半夜、周末、全体员工熟睡时继续运作。自动交易或清算程序,完全可能在短短几分钟内,把一个原本可控的小失误,滚雪球般放大成灾难级亏损。因此,企业在评估 AI 代理风险时,最该关注的不是模型有多聪明,而是它能碰哪些系统和资产。一个能力平平但权限大开、能直接操作钱包的代理,远比一个能力更强却被牢牢关在沙盒里的模型,危险得多。权限设计,正在成为比模型选型更关键的生死线。
内控必须延伸到钱包和智能合约的每一个缝隙
很多企业其实已经建立了职责分离、审批额度、访问审查、变更管理等一系列传统内控手段。问题在于,这些原则必须不打折扣地落实到与加密系统交互的每一个 AI 代理身上。
任何代理都不该拥有「一条龙」式的能力——比如同时完成创建钱包、修改地址白名单、发起转账,且全程无需人工介入。高风险交易必须强制要求真人审批,而审批人拿到的信息必须清晰完整:收款地址、资产类型、金额、所在网络、Gas 费,以及这笔交易究竟要干什么。那种含糊其辞、自动弹出的「请确认系统操作」提醒,根本算不上有效控制,只会制造一种虚幻的安全感。
私钥和签名权限尤其需要特殊保护。绝对不能让代理随意读取助记词或签名凭证。多签机制、硬件安全模块、单笔限额、延时到账等设计,都能有效降低「一个漏洞被利用,钱包瞬间清空」的风险。在和智能合约交互前,必须先模拟执行、严格校验,特别是涉及无限额代币授权或来源不明的合约时,更要打起十二分精神。
企业还必须建立完整的操作日志——代理访问过什么、收到什么指令、提议过哪些交易、哪些最终成功上链,以及是否有真人全程主导了这些操作。这些记录对于事后追责、安全审计、资产保护乃至财务披露,都不可或缺。没有日志,出了事连锅都甩不明白。
AI+ 加密的事故,需要行业共享教训
Linux 基金会和开放安全 AI 联盟已经推出了「共享 AI 发现交换」(SAFE)机制,旨在帮助各组织在保密前提下,互相学习真实的 AI 安全事件和险情。加密公司、银行、托管机构、交易所和审计机构,都应该积极参与这类信息共享。
加密行业早就明白,仔细复盘黑客攻击、跨链桥崩塌、密钥泄露、智能合约漏洞,是多么有价值的事。而代理式 AI 又给这个老问题添了新维度——一次事故可能同时牵扯模型本身、提示词设计、工具集成、访问策略,以及最终的链上交易。因此,真正有用的事故报告,必须把这些层次全部讲清楚,而不是含糊地甩一句「AI 出了点问题」。
董事会现在就该明确追问:代理式 AI 有没有被纳入钱包治理、网络安全应急预案和升级审批流程?审计师也要考虑,未经授权的代理操作是否可能导致直接资产损失、余额错报、隐性负债,甚至内控体系出现重大缺陷。财务团队则要提前想明白:一旦发生恶意或失败的链上交易,该怎么识别、怎么估值、怎么在报表里如实披露。
当然,AI 代理并非只有风险。它将来完全有可能大幅提升加密合规、自动对账、欺诈检测和资金管理的效率。这些好处真实可期。但前提是,自主能力必须配上足够强硬的控制手段。否则,一个代码层面的小疏忽,眨眼间就会变成一笔再也追不回的链上转账。
在加密世界里,责任必须在代理真正获得行动能力之前,就先设计好、嵌入好、测试好。无论你是加密的信徒,还是 AI 的拥趸,都应该正视这一点——因为一旦失控,结局往往是永久性的。
