换更大的模型就等于更聪明?
【导读】换更大的模型就等于更聪明?这可能是Claude Code用户最深的误会。很多人为此一路换到最贵的Fable,近日,Anthropic,亲手澄清了这个误区。
你有没有过这种时刻:Claude Code写代码写砸了,第一反应,就是赶紧换个更强的模型。
但这一招,很多时候并不管用,甚至是在白花钱。
近日,Anthropic官方发了一篇长文专门来讲这件事。
Anthropic官方长文
起因是太多人把Claude Code里的两个选项搞混了:
一个是模型选择(Model),一个是努力度(Effort)。
Anthropic官方长文
过去,大家对这两个选项的理解都很简单:换更大的模型,AI就更聪明;把Effort调高,无非是让AI多想一会儿。
而就在今年3月,这个误会还惹出了一场不小的混乱。
当时,不少开发者发现,手里的Claude Code突然「变笨」了。该读的文件不读,该跑的测试不跑,任务干到一半就撂挑子,反过来问你要更多信息。
于是,GitHub上骂声一片。
最狠的一刀来自AMD的AI负责人Stella Laurenzo。
她在GitHub上翻出6852个会话的日志,实测Claude的思考量比2月之前掉了67%,撂下一句:
Claude已经没法被信任,去干复杂的工程活了。
Claude已经没法被信任
起初,大家还以为是自己的提示词没写好,或者哪里配置错了。折腾半天才恍然大悟:问题根本不在自己身上,是Anthropic悄悄改了一个设置。
3月4日,为了压低延迟,他们把Claude Code里的Effort选项,默认档位从high降到了medium。
官方更新日志里也写了,可大多数人并没注意到,他们只是感觉到,手里的模型无缘无故好像变蠢了。
扛了一个月,Anthropic才在4月7日把默认档位调回去,还给所有订阅用户重置了一次用量额度。
而多数人这时才知道,这个开关一直就在自己手边,它在暗中决定着:AI到底肯不肯为你满血干活。
Model换的是脑子,Effort换的是态度
Anthropic官方的拆解,可以简单总结为这样一句话:
Model换的是脑子,Effort换的是态度。
先说Model,它换的是脑子。
每个模型背后是一套「冻结的权重」,它的能力和知识,在训练结束那一刻就被焊死了:只读、不可改。
这意味着,你推理时喂进去的提示词、CLAUDE.md、贴进上下文的代码,全都改变不了它的这套权重:你可以引导它,却没法「训练」它。
换模型,本质就是换一整套权重来接你的活,所以它解决的是「会不会」的问题。
一个在模型训练时还不存在的库,你把文档整篇喂给它,它能现学现用,可那只对这一次请求管用,模型本身一个字都没记住,转头就忘。
它偶尔会一本正经地调用一个根本不存在的API,也是同一个道理。那并非查漏了,是权重照着训练里的老套路,硬拼出一串东西。
再往底层看一眼,就更清楚了。你写的const x = await fetch,在模型眼里先被切成一个个token,每个换成词表里的一个数字。
图源:Anthropic官方博文
你写的一行代码,被切成token后各自对应词表里的一个整数:const是1078,await是2597,词表约10万个。模型拿到的从来不是文字,是这串数字。
模型不是一口气吐出整段答案的。它一次只预测一个token,接上去,再把整串重新算一遍,预测下一个。一段两百个token的回复,就是两百次完整的运算。
你等的时间、你烧的钱,大头全在这个循环里。
再说Effort,更换的是「态度」。
很多人以为高Effort就是「多想几秒」,错了。
它管的是Claude在这次任务上到底投入多少工作量:读几个文件、跑不跑测试、要不要额外验证、要不要把一个多步骤任务一路推到底再回来找你。
说白了:低Effort的Claude,倾向于快速回复,然后反过来问你要更多上下文,能不动手就不动手;高Effort的Claude,倾向于自己去翻信息、多调几次工具、一口气把长任务链跑完。
Effort在Claude Code里分成好几档,别把它当成一条死板的token预算线。
它是个行为信号,告诉Claude这活得干到多彻底、多有把握才算完,文本回复、工具调用、扩展思考,全在它的管辖范围里。
官方还放了一张示意图:同一条prompt,高Effort能比低Effort多吐大约7倍的token。多出来的那些,全花在读文件、跑验证、反复确认上了。
图源:Anthropic官方博文
同一条prompt,高Effort路径生成的token约为低Effort的7倍,多出的全花在读文件、跑验证、反复确认上。
这里藏着一个反直觉的结论:小模型开高Effort,完全可能干翻大模型开低Effort。
不会,还是不够努力
知道了分工,真正有用的,是官方给的那套判断框架。
图源:Anthropic官方博文
官方判断框架:Claude做错了,先问它是不够聪明还是不够努力,再决定换模型还是加Effort。
Claude干砸了,先别急着动模型选项。
第一步永远是回头查上下文:prompt说清楚了吗?该给的工具给了吗?CLAUDE.md配对了吗?大多数所谓「AI变笨」,根子都在这儿,不在模型选项上。
上下文确实没问题、它还是错,就问自己一句:它是不会,还是不够努力?
「不够努力」,很好判断:该读的文件跳过了、测试没跑、重构干到一半跑回来问你:它缺的不是脑子,是投入。
这是Effort的事,可以往上调一档。
如果「不会」,则是另一种情形:你上下文给足了,它也明显尽力了,可还是错,换个说法再试一遍还是错。
这时候任你怎么加Effort都白搭,这是模型的事:就要换更强的。
官方还打了个特别好懂的比方。
Sonnet,是个有一整个下午的全能选手。
它会把你的代码从头读到尾,跑一遍、再验一遍,最后是真把你这摊活儿吃透了。
Opus,是只给你五分钟的专家。它带来的是你代码库里压根没有的经验,见过的坑、该绕的雷,全是解过一堆同类问题攒下的直觉。可五分钟就那么点时间,只够它扫一眼,不能扫遍所有文件。
Fable,是所有人都卡住了才请得动的专科。哪怕只给五分钟,它也能一眼揪出别人谁都没看出的那处毛病。
当然,这位专家每个token也最贵,得留给真正没人能接的硬骨头。
所以才有那个反常识的结论:
一个Sonnet开高Effort,在不少活儿上真能干过Opus开低Effort。小模型配上充足上下文和高投入,能扛下的事比你想象的要多得多。
图源:Anthropic官方博文
长任务、多步骤活上,Fable拉开最大差距,官方测试里有些任务Opus和Sonnet开到任何Effort都够不着。
卷完模型排行榜,给AI派活成了硬手艺
这篇官方解读,表面上是教你调参,背后是一个重要的转向:
AI编程的竞争,正在从「谁的模型更强」,转向「谁更会调度智能体」。
过去很简单,人挑一个最强的模型,剩下的全交给它。
现在不一样了。你得像个项目经理那样,给不同的模型派不同的角色、定不同的投入档位:
简单的改动交给Sonnet挂低档,秒回还省钱;大型重构上强模型加高档;要长时间自己跑的智能体任务,强模型配足Effort。
这些操作,不仅能把活干得更好,省下来的,都是真金白银的token账单。
Claude Code的Effort菜单里多出的那档ultracode,就是把这套「调度」做进了产品。
选中它,Claude拿到的是xhigh的火力,外加一项授权:遇到实质性的活儿,自己掂量要不要拉起一支智能体队伍,把任务拆下去并行干。
回头看3月那场「变笨」风波。
它能惊动整个社区,恰恰因为大多数人还停在「换模型」的老思路里,对手边这个更要命的Effort选项浑然不觉。
只看模型排行的时代正在过去,调度模型,正在成为核心手艺。
谁先学会给AI派活,谁就能抢先一步,用上那个真正肯为你卖力的Claude。否则,你手里再贵的模型,也只是一个更贵的搜索框。
这样,你烧的每一分token,才算真花在了刀刃上。
参考资料:
https://claude.com/blog/claude-model-and-effort-level-in-claude-code
https://x.com/ClaudeDevs/status/2074900291062034618?s=20
https://platform.claude.com/docs/en/managed-agents/multi-agent
编辑:元宇
本文来自微信公众号“新智元”,作者:ASI启示录
