美国政府封禁 Anthropic 模型，根本不是因为什么「越狱」
上周五，美国商务部援引冷门出口管制条令，强制要求 Anthropic 将其两款顶级 AI 模型 Fable 5 和 Mythos 5 下线，理由是未明确说明的“国家安全顾虑”。外界最初猜测这与模型“越狱”（护栏被绕过）有关，但更多后续信息显示，此举更像是特朗普政府与 Anthropic 关系破裂后的报复行为。
政府发出的信函未公开具体细节，也未经过法院批准，即以单方面、迅速的方式迫使 Anthropic 关停了产品。这被视为对科技行业的警告：政府有能力随时干预并关停企业的服务。
安全专家 Katie Moussouris 披露，引发争议的所谓“护栏绕过”源自一份关于模型安全能力的研究论文，其描述的行为实质上难以彻底修复，且任何限制尝试都可能削弱模型的防御功能。她与数十位安全研究员共同批评该出口管制令草率危险，并呼吁撤销。
评论指出，此举可能损害外国对美国 AI 技术可靠性的信任，并树立了一个政府可凭主观意志随意控制软件发布的危险先例。此次针对 Anthropic 的行动，预示着其他科技公司未来也可能面临类似干预。
marsbit昨天 03:58
