AI2发布全开源网络代理 MolmoWeb:仅凭“视觉”即可掌控网页

marsbit發佈於 2026-03-26更新於 2026-03-26

文章摘要

艾伦人工智能研究所(AI2)近日发布全开源网络代理 MolmoWeb。与传统依赖网页底层代码(DOM)的方式不同,MolmoWeb 仅通过读取屏幕截图进行决策,实现了纯视觉驱动的网络导航,标志着技术上的重大突破。 MolmoWeb 的工作原理是捕获浏览器窗口截图,通过视觉分析决定下一步操作(如点击、滚动、翻页),并循环执行。这种方式使其比传统代理更稳定,因为视觉布局通常比代码更统一,且决策过程对人类而言更透明、可解释。 尽管模型规模较小(4B 和 8B 参数),但性能表现突出:在 WebVoyager 测试中,8B 版本得分达 78.2%,接近 OpenAI 的专有模型 o3(79.3%)。通过多次运行筛选最佳结果,成功率可进一步提升至 94.7%,在 UI 元素定位测试中甚至超越了 Anthropic 的 Claude3.7。 AI2 同时开源了大规模数据集 MolmoWebMix,包含 3.6 万次真实浏览任务和超过 220 万个截图-问答对,部分合成数据经 GPT-4o 验证,显示在引导智能体方面优于人类轨迹。 MolmoWeb 已在 Hugging Face 和 GitHub 上通过 Apache 2.0 协议完全开放。尽管在复杂指令、登录验证和法律合规等方面仍存在挑战,但 AI2 强调开源与社区协作对对抗大型科技公司数据垄断的重要性。

艾伦人工智能研究所(AI2)近日发布了突破性的全开源网络代理 MolmoWeb 。与传统依赖网页底层代码(DOM)的代理不同,MolmoWeb 仅通过读取屏幕截图进行决策,标志着“视觉驱动”网络导航技术的重大飞跃。

核心技术:像人类一样“看”网页

MolmoWeb 的运作逻辑非常直观:它捕获当前浏览器窗口的截图,通过视觉分析决定下一步操作(如点击、滚动、翻页),然后执行并重复。这种“所见即所得”的模式使其比传统代理更具鲁棒性,因为网页的视觉布局通常比底层代码更稳定,且其决策过程对人类用户而言完全透明、可解释。

性能飞跃:小模型击败巨头

尽管 MolmoWeb 的参数规模仅为4B 和8B,但在性能表现上却展现出“以小博大”的实力:

  • 榜单领跑:WebVoyager 测试中,8B 版本的得分高达 78.2%,不仅在开源模型中名列前茅,更逼近了 OpenAI 的专有模型 o3(79.3%)。

  • 潜力巨大: 研究发现,通过多次运行任务并筛选最优结果,其成功率可进一步跃升至 94.7%

  • 定位精准: 在 UI 元素定位基准测试中,它甚至超越了 Anthropic 的 Claude3.7。

数据支撑:史上最大的开放数据集

AI2此次不仅开源了模型权重,还贡献了名为 MolmoWebMix 的庞大数据集。该数据集包含:

  • 由人类志愿者完成的 3.6万次真实浏览任务

  • 超过 220万个 屏幕截图-问答对。

  • 通过 GPT-4o 验证的自动化合成数据。实验证明,合成数据在引导智能体寻找“最优路径”方面甚至优于人类轨迹。

开源精神与未来挑战

目前,MolmoWeb 已在 Hugging Face GitHub 上通过 Apache2.0协议完全开放。尽管在处理复杂指令、登录验证及法律合规(如服务条款)方面仍面临挑战,但 AI2坚信,只有通过完全的透明和社区协作,才能真正对抗大型科技公司的数据垄断。

相關問答

QMolmoWeb 与传统网络代理的主要区别是什么?

AMolmoWeb 与传统依赖网页底层代码(DOM)的代理不同,它仅通过读取屏幕截图进行决策,采用“视觉驱动”的网络导航方式。

QMolmoWeb 在 WebVoyager 测试中的表现如何?

A在 WebVoyager 测试中,MolmoWeb 的8B版本得分高达78.2%,逼近OpenAI的专有模型o3(79.3%),在开源模型中名列前茅。

QMolmoWebMix 数据集包含哪些内容?

AMolmoWebMix 数据集包含3.6万次人类志愿者完成的真实浏览任务、超过220万个屏幕截图-问答对,以及通过GPT-4o验证的自动化合成数据。

QMolmoWeb 的开源协议是什么?在哪里可以获取?

AMolmoWeb 使用 Apache2.0 协议完全开放,可以在 Hugging Face 和 GitHub 上获取。

QMolmoWeb 目前面临哪些挑战?

AMolmoWeb 在处理复杂指令、登录验证以及法律合规(如服务条款)方面仍面临挑战。

你可能也喜歡

全球股市的风暴点:韩国股市的去杠杆已基本完成

近期韩国股市出现剧烈波动,KOSPI指数自6月高点最大回撤达32%,成为全球AI行情调整的“风暴中心”。文章指出,市场下跌的深层原因并非基本面恶化,而是由高度集中的杠杆资金结构所驱动。 具体来看,核心风险来源于两方面: 1. **杠杆ETF大规模去化**:前期规模一度接近500亿美元的杠杆ETF,其“每日再平衡”机制在下跌中引发了“股价下跌→强制平仓”的负向循环。目前其规模已从高点收缩约240亿美元,去化进度已达约75%,剩余压力显著收敛。监管层也已出台新规,从8月起严格限制此类产品,从源头降低风险。 2. **对冲基金快速降杠杆**:通过互换交易放大敞口的对冲基金,其多空持仓比率已从峰值显著回落,净多头水平显示杠杆已下降超过50%,最剧烈的被动去杠杆阶段基本完成。 相比之下,韩国居民融资余额占股市市值比重很小(约0.5%),且不具备强制平仓机制,难以成为系统性风险的核心来源。 综合而言,最容易引发“连锁抛售”的高杠杆结构已大部分出清,市场正从“流动性驱动的下跌”过渡到“基本面驱动的定价”。只要AI产业趋势未发生根本逆转,本轮调整更接近一次拥挤交易的集中出清,而非行情的终结。 文章最后强调,AI代表的硅基革命趋势不可逆,波动是参与趋势的成本而非风险。每一次调整都是在进行筹码结构的优化,并为认清趋势的投资者提供新的参与机会。

链捕手52 分鐘前

全球股市的风暴点:韩国股市的去杠杆已基本完成

链捕手52 分鐘前

自2024年以来推出的加密货币代币中,92.9%跌破发行价:CryptoRank

加密货币数据平台CryptoRank的最新研究显示,自2024年以来发行的加密货币代币中,有高达92.9%目前正低于其代币生成事件(TGE)时的初始价格。 该分析聚焦于市值超过1亿美元的项目,在2024年至2026年间发行的113个项目中,仅有8个仍保持在发行价之上,其余105个均已跌破。这意味着只有约7.1%的项目为投资者带来了正回报,而整体样本的中位数回报率低至-95.7%。 表现最突出的项目是Hyperliquid (HYPE),自TGE以来上涨了1,519%。其次是Ondo Finance (ONDO)、EverValue Coin (EVA)和Midnight Network (NIGHT),涨幅分别为101.4%、20.32%和16.50%。 数据表明,与过去市场周期中新股常持续上涨不同,当前投资者变得更加挑剔。资本正越来越集中于少数已证明其产品采用度、生态增长或强劲市场需求的项目。许多新代币难以维持初始估值。 这一趋势反映了市场关注点的转变:投资者愈发看重代币经济学、流通供应量、解锁时间表和长期实用性,而非仅关注上市初期的价格动能。 研究结果可能影响未来项目的发行策略。项目因过高的完全稀释估值(FDV)、上市初期流通量不足以及大量未来代币解锁计划而备受审视,这些因素都可能在新供应进入市场时对价格构成下行压力。因此,开发者和投资者未来或将更重视可持续的代币分发模式和长期的生态增长,而非激进的初始估值。

ambcrypto53 分鐘前

自2024年以来推出的加密货币代币中,92.9%跌破发行价:CryptoRank

ambcrypto53 分鐘前

交易

現貨
活动图片