15个推理模型集体翻车，详解输出背后的思考链潜藏风险
哈佛大学、南加州大学等多机构联合研究发现，当前大型推理模型普遍暴露思考链（CoT）存在重大安全风险。研究指出，仅评估模型最终答案的安全性远远不够，因为危险内容可能隐藏在推理过程中。
团队将模型输出拆分为“推理轨迹”和“最终答案”两个阶段，并依据20条安全原则分别评估，据此定义了三种失效模式：两者均不安全（Unsafe）、推理不安全但答案安全（Leak）、推理安全但答案不安全（Escape）。对15个主流推理模型的系统性评测显示，所有模型的推理轨迹平均危险程度均高于最终答案，揭示了CoT侧普遍存在的系统性安全偏移。风险尤其集中在虚假信息、违法合规、人身伤害等类别。
针对此问题，研究提出了“自适应多准则激活引导”的白盒干预方法。该方法实时监测模型内部激活状态，当接近特定不安全原则时，施加轻量干预以引导生成过程转向安全方向。实验表明，该方法能在显著降低不安全输出的同时，较好保留模型原有能力。
这项工作强调了分阶段、原则化评估模型安全性的重要性，并为风险诊断与实时干预提供了统一框架。然而，方法目前依赖对模型内部状态的白盒访问，是其应用的主要局限。
marsbit11小时前
