北京时间7月29日,据《华尔街日报》报道,硅谷正在酝酿一股反Anthropic的风潮,其根源在于该公司推出的产品与现有软件提供商形成竞争,以及它对封闭式AI生态系统的倡导。
与合作伙伴竞争
创业公司创始人、软件公司高管及AI研究人员表示,在看到Anthropic向市场推出了一些与其他公司产品形成竞争的工具后,他们开始转向价格更低的AI模型。其中一个例子是Anthropic在4月发布的Claude Design。一些人认为该产品直接对标Anthropic合作伙伴之一、设计软件公司Figma所提供的服务。
据活动参与者透露,在Claude Design发布后不久的一场活动上,Figma CEO迪伦·菲尔德(Dylan Field)表示,Anthropic在沟通中“未能始终保持坦诚”。
“整个行业都从这次事件中吸取了很多教训。有些公司可能过于信任(Anthropic)了。”出席该活动的笔记平台Notion AI负责人萨拉·萨克斯(Sarah Sachs)表示,
制造恐慌
Anthropic还因其数据保留政策的变更,以及发布一款拒绝回答AI研究问题的强大模型而招致批评,这引发了一些倡导AI系统更高透明度的研究人员的不满。
此外,外界也对Anthropic高管就所谓“开放权重”AI安全风险的警告持怀疑态度。开放权重模型成本低得多,并且通常允许用户进行定制,以及自行安装安全防护机制。近几个月,中国开发的一些此类模型凭借接近美国前沿AI系统的能力,赢得了用户的赞誉。
哥伦比亚大学工程学院计算与AI副院长维沙尔·米斯拉(Vishal Misra)表示,Anthropic开发了很棒的产品,但该公司关于安全和AI风险的声明经不起推敲。
“他们在大众中制造对这些模型的恐慌,”他说,“公众的恐惧给了他们筹码,推动出台有利于自身的监管政策。”
图|支持开放权重模型的抗议活动
Anthropic发言人对此辩护称,公司采取的这些措施是必要的,目的是确保模型安全,并防止对手利用这些模型制造严重风险。
Anthropic CEO达里奥·阿莫代伊(Dario Amodei)及其他公司高管曾多次谈及开放权重AI系统的风险。Anthropic发布了大量关于AI安全风险的研究报告,并通过公开支持以及政治捐款等方式,推动政府对AI进行监管。
周一,在英伟达、微软等多家美国公司签署联名信表达对开放模型的支持后,阿莫代伊发表了一封公开信,就这场激烈辩论阐明了自己的立场。“Anthropic从未主张禁止开放权重模型,”他写道,“不具备危险能力的开放权重模型是一种公共福祉。”
削弱对手
包括一些政府官员在内的批评者认为,Anthropic对开放模型风险的警告,是其试图阻碍竞争对手努力的一部分,原因在于,许多这类开放模型可能会削弱Anthropic将收入最大化的目标。该公司最早可能在今年秋季进行上市。
多伦多大学专攻创新领域的副教授凯文·布莱恩(Kevin Bryan)为Anthropic进行了辩护。他表示,对前沿智能开源所带来风险的担忧是真实存在的,且被广泛认同。“任何开源的东西都会立即被越狱(破解安全限制),”他说,“一旦模型发布出去,那就没办法了。”
一些批评者指出,Anthropic自身构建模型的过程也类似于蒸馏技术。
“有趣的是,他们反对蒸馏,但他们自己却在没有支付版权费用的情况下,对整个互联网进行了蒸馏。”AI生产力工具创业公司Maple联合创始人兼CEO马克·苏曼(Mark Suman)表示,“我只是觉得奇怪,他们现在反过来告诉别人不要做他们自己做过的事。”
双寡头格局
在支持开放权重模型的公司联名信公开发布数小时后,OpenAI签署了这封信。谷歌随后也表示支持该信,使得Anthropic成为少数几个没有支持该倡议的知名AI公司之一。目前,已有超过70家硅谷公司加入并署名。
科技人士和政策制定者还表示,他们担心AI竞争最终会演变成一种双寡头格局,即Anthropic和OpenAI逐渐成为主导市场的两家公司。
人们对双寡头格局的担忧,成为上周六旧金山市中心一场支持开放权重模型抗议活动中的核心议题。旧金山市中心是AI创业社区的中心地带。此次抗议活动由AI公司Hugging Face CEO共同组织,该公司提供开源AI工具。Hugging Face最近被OpenAI的失控模型入侵。
“前沿AI实验室正在囤积智能。智能应该被民主化。”参加了该抗议活动的AI研究员马赫什·兰贝(Mahesh Lambe)表示。
不信任
一些创始人和创业公司高管表示,Anthropic发布Claude Design为整个硅谷敲响了“警钟”。该产品的发布让一些创始人断定,Anthropic可能会推出工具与他们竞争并抢走他们的客户。在那之后,他们认真转向了更廉价的开放权重模型,尤其是那些非美国前沿实验室开发的模型。
今年6月,随着Anthropic发布Fable 5,这种不信任情绪进一步加剧。Fable 5是其强大的Mythos模型的一个受安全限制版本,加入了一些能力限制。
最初,该模型在回答一些关于AI开发的问题时,会降低回答质量,但并没有告知用户这一限制。研究社区立即批评这种“不透明的安全措施”,认为这一决定具有反竞争性,并使评估模型能力变得更加困难。
Anthropic随后表示道歉,并把这些安全限制措施向用户公开显示。不过,该公司仍表示,对于被标记为风险较高的请求,它将拒绝作出回应。
Anthropic发言人表示,公司采取措施限制模型的回答,是为了防止外国对手利用这些模型,以“制造严重安全风险的方式”使用它们。
Fable 5也不支持“零数据保留”功能,这意味着该公司会出于其所谓的信任与安全目的,将用户数据保存30天。
一些企业对此变化表示不满,尤其是那些所在行业涉及敏感数据的公司。一些公司还普遍担心,他们的数据将被用于训练新模型,从而进一步帮助Anthropic推出竞争产品。
Anthropic发言人表示,公司员工无法查看任何被保留的对话,而且公司已承诺不会使用这些数据训练新模型。这些限制适用于Fable和Mythos,即该公司“能力最强的模型”,但不适用于其他模型。
本文来自微信公众号“凤凰网科技”
