作者:Zack Whittaker
编译:深潮 TechFlow
深潮导读:上周五,美国商务部一封信逼得 Anthropic 把两款最强模型 Fable 5 和 Mythos 5 全部下线。政府给的理由是国家安全,外界以为是模型护栏被绕过。但越来越多的细节指向另一个解释:这更像是特朗普政府和 Anthropic 关系破裂后的报复。一家科技公司被政府一纸命令、无需法院批准就关停了产品,这对整个美国科技行业都是个信号。
美国政府给 Anthropic 发的那封执法信,周末前夕逼着公司把最新的 AI 模型全部下线。任何一家美国科技公司都该把这事当成警钟,不只是 AI 实验室。
先把这几天的消息线理一遍。周五下午,美国商务部给 Anthropic 发了一封信,援引了一条很冷门的出口管制条令,禁止非美国人(包括 Anthropic 自己的员工)访问 Fable 5 和 Mythos 5,理由是某种没说清楚的国家安全顾虑。Anthropic 说它判断这封信和模型护栏被绕过有关,但也不确定,因为信里根本没给具体细节。这封信至今没有公开。
Anthropic 的回应是把两款顶级模型对所有客户全部关停,确保自己合规。结果就是,美国政府用一个迅速、单方面、看上去都不需要法院批准的动作,成功逼一家科技公司把模型下了线。
这次特朗普政府的干预说明,AI 行业没法在政府面前免疫。对更广的科技行业来说这也是个警告:要么照办,要么我们能把你和你的产品一起关掉。
Axios引述消息人士的说法,描述了周末这两个大玩家之间紧张的局面,称真正导致这道出口令的是 Anthropic 和特朗普政府之间的「性格不合」,而不是 AI 产品本身有什么技术问题。
周末浮出来的新细节,进一步动摇了政府本就站不住脚的理由。
网络安全老兵、研究者、Luta Security 创始人 Katie Moussouris 在一篇博客里说,Anthropic 最近私下给她看了一份论文,是几位安全研究员写的,描述了 Fable 5 里所谓的护栏绕过。(《华尔街日报》报道,论文作者是亚马逊的安全研究员。)Moussouris 说,Anthropic 找她,是想听听她对这篇论文的看法。
Moussouris 在博客里讲了研究员是怎么触发这个护栏绕过的,但她说这个绕过本身「根本就不该触发出口管制」。区别其实很小:让 AI「检查代码里的安全问题」和让它「修这段代码」,问法稍有不同,最后结果基本一样。
「论文里描述的这种行为没法真正修掉,任何尝试都只会削弱模型在防御端的能力,」Moussouris 说。她批评这道出口管制令草率、粗暴、判断错位。
此后,Moussouris 和几十位顶级安全研究员、专家一起,呼吁特朗普政府撤销这道出口管制令,称把先进的网络安全能力从美国网络防御者手里抽走是「危险的」。
历届政府都在知识盲区上做过一刀切的决定。比如 2010 年代美国政府修订出口法时,想管住那些既能用于防御、也能用于攻击的网络安全工具,结果用词太宽泛,无意中差点把合法的安全和漏洞研究也定成了违法。
但特朗普政府这道命令,看起来是报复。
Tech Policy Press 的编辑 Justin Hendrix 说,特朗普政府这一手「很可能让外国政府对美国 AI 用于关键场景的可靠性敲响警钟」。传递出去的信息是:美国的 AI 公司没法在不受美国政府干预的情况下运营。
特朗普政府没有确认它为什么动用这道出口管制令。是官员读错了那份报告然后慌了?是亚马逊 CEO Andy Jassy 出于谨慎或者私怨,跟政府高层说了什么,引发了这场反应?是翻译出了岔子,还是这本身就是个施压 Anthropic 的手段——毕竟双方关系本来就很僵?也有可能白宫压根没意识到这封信的要求会带来这么大的连锁反应,官员们现在正手忙脚乱地收拾自己捅出来的篓子。
借 Hendrix 的话说,「现在的气氛是一片猜疑,高层官员似乎在凭个人和政治因素挑选偏爱的对象。」后果是,政府就「自己打算对美国制造的软件发布握多大控制权」立下了一个危险的先例。
这次政府盯上的是 Anthropic,明天可能就是别的任何一家。
