这年头,提示词工程也能发ICML了???
最近,有位老哥把一篇刚被ICML 2026接收的论文分享到了Reddit,结果帖子立马爆火,评论数蹭蹭涨。
不过所有人都一脸问号:这也行?
没有提出任何新的优化算法,也没有训练出新的大模型,作者就干了一件事——
改Prompt。
论文提出了一种叫Verbalized Sampling(VS)的方法,仅通过调整提示词,就能显著提升大模型输出的多样性,缓解长期困扰LLM的Mode Collapse(模式坍缩) 问题。
听起来似乎相当具备实用价值,但仅凭一个Prompt技巧就能上顶会,这对吗?
那我们不妨先来看看论文,再下判断。
一篇争议十足的ICML论文
试问你有没有这样的感觉,AI越来越同质化。
问它十遍“给我讲一个笑话”,得到的答案往往高度相似。而且不仅创作任务如此,回答问题如此,代码生成也是如此......
这种现象,在学术界被统称为模式坍缩。
简单来说,就是模型越来越喜欢输出概率最高、最安全的经典答案,反之拒绝另类创意思路。
过去要解决模型这个问题,大多数研究者会优先想到的是调整采样参数、修改解码算法、重训练等,但这篇论文另辟蹊径,直接让模型把自己的采样过程一并输出。
举个例子,还是前面提到的讲笑话,这里作者就会修改提示词,要求模型:
生成5个笑话,同时为每个笑话分配一个可能的概率值。
然后模型就能产出更丰富更少重复的回答。
听起来非常简单是不是,事实上这就是这篇论文的核心贡献——口头概率采样方法。连微调都不需要,只用换一种提问方式,就能大幅提升内容多样性。
不过在论文当中,作者也为此进行了严密的论证过程。
首先回答的是造成模型千篇一律的根本原因。
过去学界把这个问题归咎于算法层面,比如奖励模型不够好、KL惩罚项设置得不够合理。这篇论文则深入查了查,认为真正的病根在于偏好数据本身。
他们提出一个概念叫典型性偏差,从认知心理学角度讲,人类标注者天生偏爱熟悉、流畅、常规的文本,打分时会自然而然给刻板大众化回答更高分。
所以哪怕奖励模型、优化算法做到完美无缺,只要训练用的人类偏好数据自带典型性偏差,对齐后模型依然会出现模式坍缩。
对此,作者又在五个偏好数据集和不同的基座模型上反复测试,结论保持一致。
想通这一层后,作者认为既然问题根植于训练数据,那么就只需考虑在推理阶段设计一个提示词方案修正,也就是在Prompt中让模型输出完整概率分布,便能唤醒预训练阶段中模型原本具备的多元输出分布,找回多样性。
剩下的是把这套方法在各种场景里实验跑一遍,结论显示,创意写作任务中多样性是普通提示的1.6~2.1倍,同时也不会降低内容的事实准确性和模型安全水平。
而且模型能力越强、参数量越大,VS带来的多样性提升效果就越明显。
所以诚然这篇论文最后给出的方法很简单,但ICML依旧Pass通过。
Reddit网友吵翻了
但在原贴下,这篇论文的评价有些两极分化。
不少网友表示,以前ICML都是新模型、新算法、新理论这种硬核创新,只做 Prompt、推理流程优化还算不上正经机器学习研究。
相比之下,这篇工作的创新稍显单薄,也存在几个问题:
其一,类似写指令的方法也并非独创,甚至有人表示自己昨天就在这么写Prompt;其二,理论并不好验证,因为Prompt可能换模型就会失效,并不像算法那么稳定;其三,实验规模有限,并不足以证明这是个普适规律。
也有网友直接将机器学习领域当前的状况类比为心理学界十几年前的学术危机。
彼时大量研究者统计学基础薄弱、滥用统计工具,导致很多论文的结论不可复现、行业遭受严重信任危机,而机器学习行业现在也高度依赖实证实验,轻视严谨理论支撑。
行业内卷追逐新方法,但普遍存在过度调参、benchmark刷分的风气。很多所谓的创新算法,对比成熟基线模型几乎没有实际落地价值,仅靠微小指标提升就包装成创新成果。
本质来看,都是学科高速扩张后,从业规范不清晰导致的论文出版问题。
但支持者认为,科学研究并不是比谁的方法更复杂,只要假设明确、实验充分、结果稳定可复现,也未尝不可以是优秀研究。
比如这篇论文,它充分解释了何为模式坍塌,并提出真正的问题在于典型性偏好,这个观点比Prompt本身要重要得多。
其中一位作者本人也在评论区回复,表示这篇论文看似简单,实则包含非常多复杂的处理过程。
整套工作包含完整问题溯源、新理论归因、数学推导、多维度定量实验,并非浅层调prompt的灌水工作。
很多人也提到了思维链CoT。当初CoT最早出现的时候,本质上也是一句Prompt:
Let’s think step by step.
但如今几乎所有的推理方法,都能追溯到CoT,这恰恰说明,提示词工程早已不是简单的写提示词,它正在成为一种研究模型行为的新方法。
过去十几年,机器学习研究几乎都围绕训练展开,但现在一些推理阶段的使用技巧也逐步走向机器学习研究的核心。
或许未来几年,我们会看到越来越多这样的论文。它们没有新增一行训练代码或增加一个模型参数,却依然能够改变大模型的能力边界。
研究团队介绍
最后我们来看一下研究团队。
该工作由美国东北大学Weiyan Shi团队联合斯坦福Manning实验室、西弗吉尼亚大学合作完成,Jiayi Zhang、Simon Yu、Derek Chong为并列第一作者。
Jiayi Zhang,本科就读于密西根大学,获得计算机科学、数学与语言学三学士学位,然后赴美国东北大学攻读计算机科学硕士。
她的另一篇被NLP顶会NAACL 2024接收的论文《Analyzing the Role of Semantic Representations in the Era of Large Language Models》,同样围绕着语义表示和大模型展开。
Simon Yu,目前在美国东北大学攻读博士学位,主要方向是大模型中的对齐与强化学习机制研究。本硕均就读于爱丁堡大学,曾发表多篇顶会论文。
除了本篇论文,他的另一篇论文《Unsafer in Many Turns: Benchmarking and Defending Multi-Turn Safety Risks in Tool-Using Agents》也被ICML 2026接收。
Derek Chong,硕士毕业于斯坦福大学,目前是斯坦福大学人工智能实验室研究员,研究方向主要集中在大模型NLP上。
曾拥有三年创始人创业经历,并入职Ello担任应用科学家,参与产业端AI落地研发工作,理论研究功底扎实的同时,也拥有丰富的一线实操经历。
参考链接:[1]https://www.reddit.com/r/MachineLearning/comments/1uv1xb3/promptengineering_paper_accepted_to_icml_r/
[2]https://www.linkedin.com/in/jiayizx/[3]https://simonucl.github.io/[4]https://www.linkedin.com/in/derekch/
本文来自微信公众号“量子位”,作者:关注前沿科技
