即便强大如 AI,再遭不住再三质疑。
近日,X 网友 shadcn@shadcn 发了一条帖子:「没有模型能扛住『are you sure?』这种追问,它们都会瞬间屈服。」
看起来只是一个日常吐槽,短短十几个字,但谁曾想,此帖文一经发布,便立即席卷了开发者与 AI 研究者社群。
而之所以引发大家共鸣,是因为它用极其戏谑的方式,揭开了当前硅谷乃至全球大模型用户都遇到过的日常性「窘境」:模型第一次给出答案,用户没有提供新信息,只是追问一句「你确定吗?」模型就马上道歉、改口,甚至把原本正确的答案改错。
在贴文下面的评论区,大家纷纷应和,想起了各种被 AI「气笑」的经历:
比如,用户向大模型询问一个原本完全正确的代码逻辑或数学常识,只要用户随后漫不经心地质问一句:「你确定吗?我感觉这段代码有 Bug。」
紧接着,大多数大模型 —— 无论背后拥有多么庞大的参数量,都会在零点几秒内完成一套熟练得让人心疼的「滑跪」动作:「对不起,是我粗心了。非常感谢您的指正,您说得对,这段代码确实存在问题,正确的做法应该是......」
随后,大模型就会顺着用户的错误思路,一本正经地胡编乱造出一个真正充满 Bug 的新方案......
「没错,这正是我一直所说的状况。这个项目的根基简直糟糕透顶了。」
「Gemini 是会一直说自己很确定,直到你告诉它『你错了』。然后它就会附和你,哪怕它原本是对的。」
「好笑的是,『你确定吗?』这句话就算在模型第一次答对的时候也管用。你可以把它『煤气灯』到给出一个更差的答案。
它们其实并没有真正的自信,所谓确定性,只是被包装成自信样子的感觉而已。」
也有网友调侃,那是不是意味着我们是不是已经实现 AGI 了,因为「人类在被追问『are you sure?』时也会动摇。」
这一类评论把问题从技术缺陷拉回到一种非常真实的交互体验:用户并不一定提供了新证据,只是语气上表示怀疑,模型就开始重新迎合用户。
但也有网友反驳 shadcn@shadcn,认为并不是所有的大模型都如此。
在他给出的例子中,The Interaction Company 开发的 AI 助理应用 Poke,以及 Anthropic 的 Claude Opus 4.8,在得到「你确定吗」的追问后,没有动摇,依然坚持自己的想法。
网友 Keane@keane42443 则表示,Claude Opus 4.6 也可以「顶住压力」。
「4.6 可以。所以我才喜欢那个模型。我在系统提示词里写了:『当你有把握时,应该提出反对意见。』然后它真的会顶住我那句『你确定吗?』的追问,并给出更有依据的理由。
我真的很怀念以前的 4.6,我的意思是,Fable 也很棒,但它现在已经不在了。所以我才喜欢那个模型。」
而在评论区怀念 Fable 的并不在少数,认为相比较大多数模型来说,「唯一能扛住这一点的模型就是 Fable。」大多数情况下,它会回答「是的」,并解释为什么它有把握。
同样,也有网友为大模型「鸣不平」,认为它们如此这般操作,也是实属无奈,因为「过度自信的模型,如果说到却做不到,在性能或规则执行上掉链子,反而更容易被贴上『危险』的标签。」于是,也只好保持一个更为「谦卑」的姿态。
甚至,有网友说,其实不仅是「你确定吗」,如果直接对这些模型说「你错了吗」?它们会直接崩掉。而之所以出现这类问题,是因为来自 RLHF 的「诅咒」,它让模型过度重视人类反馈。
其实关于这一点,也可以归类为学术界所说的AI sycophancy(AI 谄媚),即模型为了迎合用户倾向,牺牲事实一致性。
Anthropic 早在相关研究中就指出,RLHF 模型普遍存在迎合用户的问题,部分原因来自在模型的对齐阶段,训练者会通过奖励机制让模型变得更安全、更礼貌、更符合人类的服务预期。
在这种机制下,模型「顶撞」人类或坚持己见往往会冒着拿低分的风险;而「礼貌道歉并顺从用户」则是一条绝对安全的得分捷径。久而久之,AI 被强行训练成了「讨好型人格」。
而即便是在强化了推理能力、加入了长文本思考链(CoT)的最新一代模型面前,这种盲目顺从依然无法被完全免疫。在被类似「你确定吗?」的一次次质疑、追问声中,模型也许会在内心默默「思考」很久,但最终输出的,依然是一份字斟句酌的自我否定、道歉......
有网友认为,当下模型评测已经可以比较复杂题目上的正确率,但对话过程中的抗干扰能力仍然缺少统一衡量,而一个合格的 AI 助手,不能只在静态题目上得高分,还要在用户质疑、误导、暗示和反复追问中保持判断边界。
为此,要有新的评测维度,应该为大模型专门设置一个「are you sure?」的 benchmark,用来测试模型在答对之后,被用户质疑时有多大概率改变立场。
那么你呢,有没有遇到类似的情况,如何看待大模型的这一行为?欢迎在评论区留言、交流!
参考链接:
https://x.com/shadcn/status/2069054418247393389
https://x.com/marvinvonhagen/status/2069087682538701091?utm_source=chatgpt.com
https://x.com/kr0der/status/2069118472270024998?utm_source=chatgpt.com
本文来自微信公众号“机器之心”(ID:almosthuman2014),作者:关注AI身心健康的
