Auto Research时代,47个没有标准答案的任务成了Agent能力必测榜

marsbit發佈於 2026-05-13更新於 2026-05-13

文章摘要

AI Agent的能力正面临新的考验。近期,Einsia AI旗下Navers lab发布了名为Frontier-Eng Bench的Agent评测基准,它包含了47个多学科交叉、没有标准答案的真实工程任务,旨在评估AI在闭环反馈中持续优化和解决复杂问题的能力。 与以往AI在固定知识库中寻找答案的模式不同,这套基准要求AI扮演“工程师”角色:提出方案、接入仿真器、根据报错反馈调整参数、重新运行并持续迭代。任务涵盖水下机器人控制、动力电池快充优化、量子线路噪声抑制等硬核领域,AI需要在功耗、安全、性能等多重约束下寻找最优解。 评测结果显示,当前AI(如GPT-5.4)虽能表现出一定的优化能力,但距离完全解决这些工程问题仍有很长的路要走。研究还总结出两条关键规律:一是优化过程遵循幂律衰减,后期性能提升越来越难;二是在有限预算下,探索的深度比宽度更为重要,持续的深度迭代比简单的并行试错更能带来突破。 这项工作的深远意义在于,它标志着AI开始从“答题者”向能够在真实反馈循环中“自我进化”的系统转变。它预示着一个“Auto Research”时代的可能:未来,人类研究者提出目标和方向,AI则不知疲倦地负责执行仿真、实验和优化迭代,从而极大加速科研与工程进程。 论文及相关资源已公开。

如果把AI丢进一个没有标准答案的工程现场,它还能活下来吗?

长期以来,AI Agent看起来无所不能,实则大多是在已知知识库里“翻记忆”。

但真实的工程世界是残酷的:水下机器人的稳定性、动力电池的析锂边界、量子线路的噪声控制......这些问题没有“满分”,只有“更逼近极限的优化”

近期,Einsia AI旗下Navers lab发布的Agent Benchmark——Frontier-Eng Bench,正式撕掉了AI“做题家”的标签。

研究团队没有让AI刷那些陈旧的代码题,取而代之的是,给了它一套完整的“工程闭环”:提出方案、接入仿真器、吃报错、改参数、重跑。

47个多学科交叉的硬核任务面前,AI必须表现得像资深工程师一样,在功耗、安全、性能的“不可能三角”中寻找最优解。

这不仅仅是一个测试集,它更像是一场关于Agent“进化”的预演。

当AI开始学会在反馈中自我修正,那个“人类提目标、AI则24小时不间断迭代”的Auto Research时代,可能比我们想象中更近了。

AI开始干“硬活”了

过去的大模型,更像一个超级学霸。

你抛出问题,它从海量训练数据里“翻记忆”,然后拼凑成一个看起来很合理的答案。

这种模式下,大模型本质上是在玩“文字接龙”,而非解决现实问题。

但Frontier-Eng Bench的出现,却让AI干起了“工程优化”的活儿。

流程转而变成了让AI先提出方案、再接入simulator跑实验、继而获取反馈和报错、修改参数和代码、再继续重跑,直到性能继续上涨。

在这种闭环系统中,AI的身份发生了质变。

你想让水下机器人更稳定?AI必须开始自动调控制器。

你想把机械臂速度再提升一点?AI得自己跑仿真。

某种程度上,AI们已经脱离了单纯的语义理解,开始像一个职业工程师那样,在真实环境反馈里做持续优化。

Frontier-Eng Bench最有意思的地方在于:它测的不是AI“答对没有”,而是AI到底能不能持续变强

因为真实的工程优化,从来不是做选择题,没有唯一的标准答案。

以电池快充为例,目标听起来很简单——充得越快越好,但现实没那么容易。

AI必须在温度不能爆表、电压不能超速、电池寿命不能掉太快、还要避免析锂的严苛约束下,精准踩中性能的平衡点。

这意味着AI无法通过任何技巧性的“刷题”来通关,它必须在长程反馈中展现出持续进化的耐力。

那AI能不能在真实环境里做长期优化?

从结果来看,GPT5.4整体表现最稳,但距离把Benchmark“做穿”,AI们要走的路还很远。

Auto Research进入“迭代优化”时代

研究团队在论文里提了一个非常有意思的点:

真正高级的智能,本质上都依赖长期反馈闭环。

正如AlphaGo之所以能击败李世石,在于其每一步决策背后深不见底的海量模拟与即时反馈,而非对既定棋谱的死记硬背。

真正的科研也一样,顶级实验室并不依赖某一次的灵感爆发,而是不断地提假设、跑实验、看结果、改方案、再继续尝试。

工程优化也是同理,第一版往往谁都能做,真正难的,其实是最后那1%的性能跃迁。

Frontier-Eng Bench的意义就在于:它第一次开始系统性地测试AI的“迭代优化能力”,并总结出了两条近乎残酷的AI进化规律。

第一个规律是:越往后,提升越难。

这篇论文发现,Agent的改进频率和幅度都呈现幂律衰减:

  • 改进频率∝ 1/迭代轮数
  • 改进幅度∝ 1/改进次数

简单说就是:前面几轮涨得最快,后面越来越难、越来越小。

这很像真实研发过程,第一版AI能快速干掉大量“低垂果实”,但越往后越接近瓶颈,想再抠一点性能都得下狠功夫。

那是不是多开几条路并行试错,会更划算?答案藏在第二个规律里。

第二个规律:宽度有用,但深度更不可或缺。

并行多跑几条线能避免卡壳,但预算固定时,每多开一条链就会压浅深度。

很多工程突破需要靠持续积累、不断修正,才会出现结构性跃迁,并不是说靠“多试几次”就能实现。

这其实提示了我们下一代Agent的发展方向:不是“一次出答案”的模型,而是能在长程反馈里持续迭代、自我进化的系统。

AI工程师,可能真的要来了

这项研究真正的深远意义,在于它初步勾勒出了一套开始接近真实工程循环的AI系统。

试想一下,当AI接入工业软件、仿真环境、CAD系统、芯片设计工具、科学计算平台......

一场生产力模态的剧变便呼之欲出。

未来的实验室里,很可能会出现这样一种分工:

人类研究员负责提出方向和目标。

例如“把这个部件的能耗降低30%”、“把这个模型前向的GPU占用率压得更低”、“让机器人控制的稳定性再提升一点”、“让量子线路的保真度继续逼近极限”等等。

而AI负责“死磕路径”,它们围绕这些目标,持续优化。

例如自动运行仿真与实验、自动读取verifier与simulator的反馈,再继续修改和优化,24小时不停迭代。

这种进化逻辑,让AI摆脱了“辅助工具”的身份,开始像一个真正的工程团队那样去解决复杂系统问题,而且不知疲倦。

而Frontier-Eng这一Benchmark揭示的问题,其实也非常直接:

当AI开始学会“长期优化”,它距离真正的工程智能,还有多远?

论文题目:Frontier-Eng: Benchmarking Self-Evolving Agents on Real-World Engineering Tasks with Generative Optimization

项目主页:https://lab.einsia.ai/frontier-eng/

Arxiv: https://arxiv.org/abs/2604.12290

GitHub repo: https://github.com/EinsiaLab/Frontier-Engineering

本文来自微信公众号“量子位”,作者:允中

熱門幣種推薦

相關問答

QFrontier-Eng Bench 与传统AI测试集的主要区别是什么?

A传统AI测试集大多有标准答案,AI像是在已知知识库中“翻记忆”和答题。而Frontier-Eng Bench包含47个没有标准答案的工程任务,它构建了一个完整的工程闭环,要求AI提出方案、接入仿真器、根据反馈和报错修改参数、重跑实验,并持续迭代优化。其目标是评估AI在真实工程环境中持续改进和逼近极限的能力,而非简单地“答对题目”。

Q文章中指出,AI在工程优化任务中表现出哪两条重要的进化规律?

A第一条规律是“越往后,提升越难”。AI的改进频率和幅度都呈现幂律衰减,前期进步快,后期接近瓶颈,再提升一点性能都非常困难。第二条规律是“宽度有用,但深度更不可或缺”。并行探索多条路径(宽度)能避免卡壳,但在固定预算下,这会使每条路径的探索深度变浅。许多工程突破依赖于在单一方向上的持续深度积累和迭代。

Q在文章中提到的“Auto Research时代”,未来实验室可能形成怎样的人机分工模式?

A在未来实验室的“Auto Research时代”,可能形成这样的人机分工:人类研究员负责提出宏观的研究方向和具体目标(例如,将某个部件的能耗降低30%)。而AI则扮演“工程执行者”的角色,负责“死磕路径”,即围绕这些目标,24小时不间断地自动运行仿真与实验、读取反馈、修改和优化方案,进行持续迭代。AI从辅助工具转变为能自主解决复杂系统问题的工程团队。

Q文章用哪个领域的例子来具体说明工程优化任务的“没有标准答案”和复杂性?

A文章以“电池快充”优化为例。这个任务的目标“充得越快越好”听起来简单,但实际上存在严苛的多目标约束:温度不能过高、电压不能超速、电池寿命不能衰减太快、还要避免析锂现象。因此,AI无法找到一个唯一的最优解,而必须在这些相互制约的因素中不断尝试,寻找一个最佳的动态平衡点,这体现了真实工程优化的复杂性。

Q发布Frontier-Eng Bench的团队及其主要目标是什么?

A发布Frontier-Eng Bench的团队是Einsia AI旗下的Navers lab。他们的主要目标是开发一个名为Frontier-Eng的基准测试,以系统性地评估AI Agent在现实世界工程任务中的“自我进化”和“迭代优化”能力,而不是测试其记忆和答题能力。这个基准测试旨在推动AI从“做题家”向能够在反馈闭环中持续改进、解决实际工程问题的“工程师”角色演进。

你可能也喜歡

Besu修复了5个节点中的漏洞:运营商需要知道什么

开源以太坊客户端Besu的开发者修复了由区块链安全公司Certik发现的五个安全漏洞。8月14日,Besu发布了四份详细的安全通告,涉及这五个漏洞,它们均已在7月27日紧急发布的安全更新版本26.7.1中修复。 安全团队表示,在发布软件补丁与公布漏洞细节之间存在有意延迟。Certik安全工程总监常佳亮解释,这种“先修复后披露”的模式为网络安全专家提供了应对潜在攻击者的关键时间窗口。操作者可以利用这段时间评估受影响部署、测试新版本、协调验证者或联盟成员进行更新,并准备回滚和监控程序。这对于需要正式变更管理协议和跨组织协调的机构或许可区块链网络尤为重要。 这些漏洞是Certik通过其“链扫描”攻击方法在自主研究中发现的。研究者在多节点私有测试网中,向点对点通信、HTTP RPC、WebSocket RPC及共识相关接口引入了可控故障。发现的漏洞涉及区块公告处理、未来高度的共识提案缓冲、WebSocket订阅限制和JSON-RPC过滤器创建等方面。若不修复,攻击者可能耗尽节点内存或线程资源,从而危及节点可用性和共识过程。 Certik已私下向Besu团队提供了可复现的概念验证测试集。Besu在发布说明中感谢了Certik和以太坊基金会安全团队。 谈及更广泛的区块链基础设施安全现状,常佳亮指出,开源社区正在向更形式化的安全测试方向发展,但测试覆盖范围在行业内仍不均衡。协议一致性测试和状态转换测试相对成熟,而对资源耗尽、异步竞争条件、恶意节点行为、长期性能退化以及特定部署配置故障的持续测试则较为不足。后者可能初期产生正确的协议输出,却允许攻击者以较低成本引发不成比例的高资源消耗。 常佳亮强调,由于开发者主导的测试无法覆盖所有潜在攻击向量,第三方专家的研究对于验证常规开发之外的假设仍然至关重要。更成熟的模型应是持续且累积的,包括开发者进行的持续集成和模糊测试、多节点攻击测试、定期的独立研究,以及对每个已确认漏洞的持续回归测试或攻击场景补充。Certik正在开发其链扫描平台以支持这一模型。

cryptonews.ru18 分鐘前

Besu修复了5个节点中的漏洞:运营商需要知道什么

cryptonews.ru18 分鐘前

Term Finance遭黑客攻击:攻击者通过治理漏洞窃取850万美元

去中心化借贷协议Term Finance因其治理机制漏洞遭受攻击,损失约850万美元,但智能合约本身未被入侵。攻击者利用Meta Vaults的投票系统特点,通过一个因极低投票参与度而获得支持的合法提案,转移了资金。 攻击得以成功,主要源于协议生态中经济参与度和投票权的脱节。用户存入资金获得权益代币tmvETH,但此代币本身不具投票权,需额外转换为gtmvETH才能参与治理,而多数用户忽略了此步骤。攻击者仅存入0.5 ETH,获得少量tmvETH并转换为投票代币。虽然其实际资金份额仅占0.017%,但在已发行的投票中却控制了90.66%的票数。治理规则也存缺陷:任何用户无需持有投票权即可创建提案,达到法定人数仅需5%的已发行投票,且简单多数即可通过。攻击者通过提案取消了7天提款延迟保护机制,并添加了自己的合约地址以转移资金。该包含17项操作的提案在链上公开约145小时,却无人提出异议或否决。 投票于2026年8月23日结束,12秒后提案即被执行。资金从多个ETH和USDC子金库中被提取,总计约2843 ETH和167.9万USDC(后者后被兑换为DAI),并汇总至攻击者钱包。初始攻击资金通过Tornado Cash混币器转入。 事发后,Term Labs团队确认事件,并宣布永久关闭所有Meta Vaults、撤销DAO治理角色,但基础协议和直接借贷市场未受影响,用户提款功能保持开放。构建金库的Yearn V3基础设施团队指出,攻击向量仅限于Term的自定义封装层,不涉及其标准产品。 此次事件暴露了去中心化治理在低参与门槛和利益相关者被动情况下的系统性风险。低法定人数和阈值使得几乎任何参与者都能创建提案,当流动性提供者被动时,极少量资本即可控制大量投票。时间锁和否决权等安全机制因攻击者能从提案内部提前禁用而失效。事件前,Term Finance金库总锁仓价值约1245万美元,被提取资金约占该产品TVL的68%。 这揭示了在投票参与率低且投票权可分离的治理系统中存在的根本设计问题。通过合法程序提取大部分资金表明,即使智能合约执行形式正确,若决策逻辑存在架构缺陷,资产安全仍无法保障。核心问题在于“空法定人数”困境,即最低限度的活动被系统解读为合法共识,以及安全参数可能被其本应保护的同一机制所修改。

cryptonews.ru19 分鐘前

Term Finance遭黑客攻击:攻击者通过治理漏洞窃取850万美元

cryptonews.ru19 分鐘前

交易

現貨

熱門文章

如何購買ERA

歡迎來到HTX.com!在這裡,購買Caldera (ERA)變得簡單而便捷。跟隨我們的逐步指南,放心開始您的加密貨幣之旅。第一步:創建您的HTX帳戶使用您的 Email、手機號碼在HTX註冊一個免費帳戶。體驗無憂的註冊過程並解鎖所有平台功能。立即註冊第二步:前往買幣頁面,選擇您的支付方式信用卡/金融卡購買:使用您的Visa或Mastercard即時購買Caldera (ERA)。餘額購買:使用您HTX帳戶餘額中的資金進行無縫交易。第三方購買:探索諸如Google Pay或Apple Pay等流行支付方式以增加便利性。C2C購買:在HTX平台上直接與其他用戶交易。HTX 場外交易 (OTC) 購買:為大量交易者提供個性化服務和競爭性匯率。第三步:存儲您的Caldera (ERA)購買Caldera (ERA)後,將其存儲在您的HTX帳戶中。您也可以透過區塊鏈轉帳將其發送到其他地址或者用於交易其他加密貨幣。第四步:交易Caldera (ERA)在HTX的現貨市場輕鬆交易Caldera (ERA)。前往您的帳戶,選擇交易對,執行交易,並即時監控。HTX為初學者和經驗豐富的交易者提供了友好的用戶體驗。

1.0k 人學過發佈於 2025.07.17更新於 2026.06.02

如何購買ERA

相關討論

歡迎來到 HTX 社群。在這裡,您可以了解最新的平台發展動態並獲得專業的市場意見。 以下是用戶對 ERA (ERA)幣價的意見。

活动图片