来源:彭博社
整理:Felix, PANews
彭博社近日对 Anthropic CEO Dario Amodei 进行了一次访谈,探讨了他的旧金山创业历程、与 OpenAI 的竞争以及 AI 的最终目标。
PANews 就访谈精华进行了整理。
主持人:你现在正处于 AI 宇宙的中心。 那是什么感觉?
Dario:在我的整个职业生涯中,尤其是在 Anthropic 的这段时期,我体验到的是一种平滑的指数曲线。这种平滑指数曲线的体验就是:什么都没发生,什么都没发生,发生了一点小事,然后“嗖”地一下疯狂增长。这就是世界的体验,也是公司规模相较于其他公司和世界的体验。 我观察这张图表很长一段时间了,我曾说“我们大概会在这个时间点成为拥有最高收入和估值的 AI 公司”,这确实发生了。所以一方面我并不惊讶,因为图表上就是一条平滑的线;但另一方面,当事情真实发生时,你会看到更多的细节和色彩,这绝对令人惊讶。我们始终需要牢记那些最根本的问题:如何训练好模型?如何将它们投入到好产品中?如何确保安全?如何帮助人们,同时管理技术带来的社会风险?一切都是同样的问题,只是被放在了更大的显微镜下审视。
主持人:你在旧金山长大,小时候是什么样的?我知道你父亲是一位皮革工匠,母亲在图书馆工作。这对你有什么影响?
Dario:当时第一次互联网革命正在我周围发生,但我对此毫无兴趣。我只对做数学题、涂鸦、理解宇宙和科幻小说感兴趣。那就是我当时的整体环境,我对这个世界充满了好奇。
主持人:你在这个科技中心城市长大,现在它又是 AI 的中心。这个城市有什么影响了你的世界观吗?
Dario:这里普遍存在的那种不墨守成规、个人主义以及“疯狂也没关系”的精神确实影响了我。你去欧洲或者哪怕是这个国家的其他地方,你会发现用不同的方式思考问题或有一些疯狂的想法是不被鼓励甚至被认为很奇怪的。虽然我对硅谷有很多批评,但我认为它有一点很好:即使所有专家都反对你也没关系,如果你对世界有连贯的愿景,你就应该去追求它。也许它完全行不通,但如果成功了,它就会产生一种长尾效应,你可能会在某些矿脉中发现巨大的金矿。我认为这种精神非常重要。
主持人:你决定离开 OpenAI 已经成了硅谷的传说。到底发生了什么?除了外界的传闻,实际的问题是什么?你们在哪些方面存在分歧?
Dario:我说得简单点。当你在开发强大的技术时,会面临许多困难的问题,Anthropic 每天也会面临这些我们不知道决定是正确还是错误的难题。所以在安全问题上有很多合理的分歧,我们确实和他们有一些这样的分歧,但这本身不足以成为离开的理由。即使在 Anthropic,人们与我、人们彼此之间也有分歧。但是,当你觉得无法信任某人,当你觉得他们的价值观并不如他们所说的那样,当你觉得他们不诚实,不是出于他们所宣称的动机在做事,当你看到令人不安的欺骗行为模式时,你很难继续与这家公司合作并信任它。归根结底,如果你和别人愿景不同且互不信任,为什么还要去争论呢?解决办法就是各走各的路。我完全能平静地接受我们用我们的方式做事,他们用他们的方式做事。看看谁在市场上获胜,谁在公众舆论中获胜。这比任何关于谁离开的戏剧性八卦都更有说服力。我们正在展示一个如何以负责任的方式部署这项技术的例子。如果他们不同意,可以提出他们的论点。 我认为要说的就只有这些。
主持人:在印度的 AI 峰会上,你和 Sam Altman 似乎拒绝在台上牵手。那里发生了什么?
Dario:真实情况是那次峰会极其无组织。我们都是在最后一刻才上台,他们临时改变了我们的站位顺序,拍了照,然后又突然命令我们所有人牵手。如果你去过这种有国家元首参加的国际峰会,你就会知道它们往往超级混乱(我这不是专门针对印度)。
主持人:但是其他人都牵手了。
Dario:我不知道该怎么跟你解释。就是 Narendra Modi 突然在台上叫大家牵手。
主持人:好吧。Sam 和 Elon 正在互相起诉。你不喜欢 Sam。如果世界上构建最重要技术的人不能在台上牵手,我们怎么能相信你们会在事关人类生存的风险上进行合作?
Dario:我想告诉你的是,构建这项技术的人在素质和可信度上存在巨大差异。那种“谁也不信任谁”的说法是不对的。我认识开发 Gemini 模型的 Demis Hassabis 15 年了,他们是 Claude 模型的竞争对手,但我们在许多问题上合作过。我们从谷歌购买算力,也经常交换关于安全的想法。所以我认为,第一,有些参与者确实比其他人更值得信任;第二,Anthropic 之外也有我信任的参与者。我认为需要发生的是,值得信任的参与者团结起来,让不值得信任的参与者处于一种不得不采用相同标准的境地。根据我的经验,有些人自己不会主动做正确的事,但如果行业内的大多数人都在做正确的事,其他人就没有太多选择了。这分为两个方面:积极的一面是互相启发(即竞争向上),比如 Demis 做 Alpha Fold 启发了我们,我们做生物研究,我们做可解释性研究也启发了他们,这不是零和竞争。这是比赛中积极的“胡萝卜”一面;而“大棒”的一面是,如果你不做正确的事就会显得很糟糕。他们可能会很不情愿地做正确的事,同时假装在做别的事,甚至觉得我们有什么不可告人的阴险目的,这在预料之中,但这正是让行业团结和合作的方式。
主持人:早期其他人专注于有趣的、引人注目的消费端应用,而你把赌注押在了编码和企业端。Claude Code 和 Claude Cowork 非常成功。你为什么做这个赌注?这是价值观的决定还是商业的决定?
Dario:当我们创立 Anthropic 时,最基本的是我们想要以正确的方式做事。但为了资助极度昂贵的模型创建,它需要有一个商业模式。如果商业模式从根本上与价值观冲突,你就会很难办:要么背叛价值观,要么变得无关紧要。 选择与价值观兼容的商业模式要好得多。我们看过社交媒体和消费者世界,那往往在鼓励用户参与度甚至成瘾(比如我们看到的 AI 视频模型乱象),只为了最大化用户停留时间来获取广告收入。 相反,在企业端,我们希望用 AI 治愈以前无法治愈的疾病(与生物技术、制药和学术机构合作)、让能源更便宜高效、帮助教育和非营利组织、促进经济增长。这些本质上都是企业端应用。另一个因素是,企业非常看重信任和长期关系。消费端有时带有噱头性质,而企业端要求你建立多年信任,交付你所承诺的东西。这与我们以积极、安全的方式部署模型的目标非常协同。
主持人:一个开发者在一个下午就能从 Claude 切换到 ChatGPT 或 Gemini。在这个行业真的可能保持长期的领先地位吗?一个强大的竞争对手需要多久才能复制你们所构建的东西?
Dario:模型质量是最重要的。我们现在在模型质量上遥遥领先。虽然存在一定的切换惯性,但我(和 Anthropic)从来不依赖产品的“粘性”让人们不切换。你需要拥有一个更好的模型,一个更好的产品。 我们看到增长率根本没有发生转折下降。 至少在录制这次采访时,如果有变化的话,那就是它还在上升。 所以我倾向于认为模型质量是最重要的事情。
主持人:在 Claude Cowork 发布后不久,市场上有 2850 亿美元的市值一夜蒸发,交易员称之为“SaaSpocalypse(SaaS末日)”。如果 AI 以这种速度继续进步,有多少传统软件会被取代,速度有多快?
Dario:这很难提前准确预测。所有传统软件公司都有各自的护城河。其中一些护城河会消失,但其他会保留。“快速编写复杂软件”作为护城河肯定会消失,你无法再依靠这个防守。但客户关系、行业运作知识和独特的领域专门知识依然重要。我建议这些公司:不要自满,列出你所有的护城河,看清哪些会消失,哪些会变强,因为也会有新的护城河出现。灵活应对的人会做得很好,而那些自欺欺人、满足于过去经验的人日子会很难过。总体而言,我认为软件行业会变得更大而不是更小,尽管肯定会有一些大输家。
主持人:解释一下这一点。
Dario:因为“蛋糕”在变大。如果 AI 让行业天花板提高了 10 倍,现有的企业很容易就能实现 1.5 倍的增长,尽管它在整个大蛋糕中的相对份额变小了。但如果那些不适应、把头埋在沙子里的人,他们将经历艰难的时期甚至倒闭。
主持人:你们最大的支持者是像亚马逊、谷歌、微软和英伟达这样的公司。它们都有自己的议程,既是合作伙伴又是竞争对手。你们巨大的商业里程碑与融资挂钩,到底是谁在真正做主?
Dario:在很多情况下,我们都直言不讳地表达了我们真正的想法。大家都是成年人,我们可以求同存异,在某件事上合作而在另一件事上存在分歧。
主持人:有报道称你们的估值高于 OpenAI。对一家成立五年的初创企业来说,估值接近一万亿美元。你是如何理解这个数字的?如果你在算力上更自律且有更快的盈利途径,你为什么需要那么多钱?
Dario:算力的需求增长非常快。业务基本面很好,但可能一年内你需要的算力就会翻三四倍,增长极快。我们完全期望收入的增长能达到甚至超过这些算力增长。筹集资金是为了缓冲这种不确定性带来的影响,这是非常理性的,对公司的股权稀释也很小,这绝不代表业务基本面出了问题。
主持人:超越你的主要竞争对手感觉好吗?
Dario:我们面前还有许多艰难的挑战。我们在推行“竞相向上”的理念,试图拉动其他公司与我们并肩前行。虽然有时他们不承认,有时一边攻击我们一边抄袭我们,但这种拉动效应极具价值。成为领先的公司的价值不在于单纯的击败对手,而在于有能力带动整个生态系统。
主持人:但获胜必须要感觉好一点才对。
Dario:我们当然总是在努力取得成功,并不想失败。我不认为我们应该关闭这项技术,我们在自由企业制度中竞争,只需要减轻模型的风险。我们始终在两极之间寻找平衡。
主持人:你们的产品开发速度非常惊人。你们是怎么做到的?
Dario:两个原因:第一,我们拥有统一的文化和组织效率,大家步调一致;第二,是 Claude 本身。我们现在正在使用 Claude 来帮助开发我们的模型和产品,使其更加高效。这产生了大量且越来越可靠的加速效果。
主持人:你见过 AI 做的最疯狂的事情是什么?
Dario:都是关于生物和医学方面的。我见过好几次,Claude 诊断出了一些高级医生漏掉的医疗问题。在生物学方面,模型在药物设计或计算化学方面开始变得惊人地出色。作为一名前生物学家,我深知那需要极高水平的专业训练。这是 AI 的巨大积极面,它将极大地提升人类的生活质量。想象从 1900 年到现在的百年科学进步,然后再想象如果再来一次百年进步会怎样。如果我们能顺利度过现在的挑战,我们将拥有一个好得多的世界。
主持人:我知道你很喜欢写作。你会用 Claude 帮你写吗?
Dario:会,但我还没有让它直接替我写成文的文本,因为我对特定的风格有点挑剔。我主要是用 Claude 进行头脑风暴,理清主题,或者提供参考文献。它现在起的是支持作用,虽然距离它写得比我好还有距离,但这迟早会到来。
主持人:写作能帮助人理清思绪,包含大量批判性思考。如果我们让 Claude 代劳,我们会失去这种思考能力吗?
Dario:我确实对此有点担心。我坚持自己写作,一半是为了读者,但同样也是为了理清我自己的思路。如果仅仅要求它“写一篇关于 AI 风险的文章”,这不仅写不出我真正想表达的内容,也会让我丧失那种思考的益处。未来,随着模型变得更好,我们可能需要找到一种既能更直接利用它们、又能保留思考益处的微妙使用方式。
主持人:你曾直言不讳地谈及失业,预测 AI 可能会在 1 到 5 年内消灭一半的初级白领工作。那是一年前的事了,现在这个比例是 50% 还是更高了?
Dario:如果你去看原来的完整视频,我的真实表述是:我不知道会发生什么,但这代表了一个衡量事情会有多疯狂的数量级。然而,人们的心理总是倾向于剪辑出那三秒钟的“末日将至”,而忽略了我同时探讨的所有应对解决方案(比如 token 税、企业调整、宏观经济政策等)。我的信息绝不是“末日将至”,而是我们需要提前看到、关注并积极应对它。短期内 AI 会让人们效率更高,但这只是一个过渡阶段。就像我们在自动化的历史中看到的,AI 最终可能包揽这部分工作。以 Anthropic 的软件工程师为例,现在 AI 帮他们写大部分代码让他们更高效,但也开始出现干脆直接让 AI 来执行特定任务更好的情况。另一方面,这也催生了新需求,比如兼具技术与客户沟通能力的“应用 AI 解决方案架构师(前端部署工程师)”。工作岗位的破坏与调整将会同时发生。
主持人:你们发布了一张图表,显示了潜在的工作破坏,哪些会消失,哪些会产生?
Dario:这很难准确预测,就像预测股市一样。但总体来说,初级白领职位(银行、金融等)被 AI 替代的可能性很大。我们在与企业客户沟通时,发现他们面临选择:是裁员以节省成本,还是利用同样的资源去做更多新事情?我们总是试图推动他们走向“正和博弈”:利用效率提升去做更多事情,而不是裁员。随着“蛋糕”扩大,人们可能会找到新的去处,这就是一个寻找匹配速度的问题。破坏的规模将会很大,所以我才试图警告人们。
主持人:如果出现那么高规模的失业率,这难道不是革命爆发的原因吗?
Dario: 这绝对是我们想要避免的结果。我认为有几个领域会保留机会:一是物理世界(因为机器人的发展慢于 AI 信息处理速度,制造和建筑仍需要大量人力);二是所有以人类为中心的工作。即使 AI 比医生看病更准或在客服上做得更好,人们依然希望并需要在重要事务上与其他人类交谈和建立联系。人类也会保留引导 AI 价值观和意图的角色。
主持人:有很多人对你的观点表示反对,比如黄仁勋说你混淆了“任务”和“工作”,还有人说这是一种对 Anthropic 有利的“末日营销”。
Dario:我要明确地反驳这一点。我们在报告和论文中用了整整五页详细阐述任务和工作的区别、说明这次为何不同,并提出了六种涵盖私人和政府的解决方案。但我发现,硅谷和社交媒体的弊病就是懒惰,人们只看一年前三秒钟的短片就不负责任地发表评论。将严肃的智力劳动称为“廉价营销”,这本身就是一种拒绝严肃讨论的廉价营销和极其懒惰的行为。
主持人:作为一家全球领先的 AI 公司,你们深深介入了美国国家安全的诸多领域。你从在加州理工学院起就有长期的反战立场,但你们却是首批与国防部签订机密网络运行合同的 AI 公司之一。请解释一下。
Dario:原因是世界在变。当我看到俄罗斯入侵乌克兰,我担心威权集团的复苏。我们需要保卫自己。我们绝对不希望对手使用 AI 来分析情报、攻击乌克兰,而我们却无法防御。所以我们在跨政府部门提供支持。顺便说一句,我们做这些绝不是为了钱,在政府网络上运行其实是个大麻烦,利润也很少。正因为我们是出于“在乎”才做,所以对技术的使用必须有明确的限制和红线,即:不能进行大规模监控和开发完全自主的武器。如果为了赢得竞争而放弃我们的民主价值观,那也是不值得的。这是我们坚持的平衡和立场。
主持人:你们从 2024 年开始与 Palantir 合作,他们的技术被美国移民和海关执法局、警察部门,甚至在加沙使用。Claude 在被用于监控吗?
Dario:我们不与 ICE 和 CBP 合作,无论是直接还是通过 Palantir。据我所知,我们也没有在加沙开展业务。我们非常谨慎地将参与范围限制在我们认同的价值观内。
主持人:所以你划定了红线,总统禁止了你们的某些联邦政府许可,五角大楼将你们贴上供应链风险标签,而 OpenAI 则介入并签了你们不愿签的合同。赢得这场斗争到底是什么样的?
Dario:我不认为这是一场论“输赢”的斗争,这是关于政府如何合理使用 AI 的社会辩论。我们正在努力就令人担忧的场景建立使用先例,并引发了对于该问题的关注。我们看到国会出现了试图禁止高风险应用并设定护栏的跨党派努力。如果非要说赢,促使我们的国家更谨慎地思考新技术的合适使用边界,这就是胜利。
主持人:有人形容你是个不该拥有如此大权力的意识形态疯子,或者左翼狂热分子,你介意吗?
Dario:我经常被骂,而且比这难听多了。别人怎么叫我和 Anthropic 都可以,我在乎的只有两件事:公司取得成功,以及我们坚持了自身的价值观。其实这让我的生活变得很简单,我一直都清楚自己的立场。
主持人:AI 战争是更可能阻止第三次世界大战,还是更容易引发它?
Dario:总体来说更有可能阻止它。但如果缺乏使用限制,它就有可能引发战争。如果没有适当的监管,双方很容易因误解爆发冲突。如果我们在情报收集和响应能力上具备压倒性优势,对手在发动行动前就会三思。优越的智能可以有效威慑冲突。
主持人:Anthropic 几乎每周都上头条,最近是关于 Mythos 模型。你说过 Mythos 太强大了不能向公众发布。关于它最让你吃惊的是什么?
Dario:让我最吃惊的是,它不仅能发现漏洞,而且能将漏洞转化为实质性的攻击工具,出现了这种能力的巨大跃升。一些早期测试它的公司甚至要求我们不要发布它,并称它为“超级武器”,认为需要有持枪许可证才能使用它。我们不向公众发布并不是想永远锁住它,而是目前的网络防御机制依然容易被“越狱”破解。我们要等到防御机制足够有信心应对它时,再伴随强有力的保障措施进行发布。
主持人:但外界有很多反对意见:有研究人员称能用更便宜的开源模型复制它,还有人说这完全是盛大的公关和营销手段。你怎么回应?
Dario:说能用开源模型复制它的说法是极其荒谬的。Mythos 模型在 Firefox 浏览器中发现了 271 个新漏洞,在许多不便公开的私营公司中发现了数千个新漏洞,之前的模型根本找不到这些。那个在 Twitter 上说能用开源模型复制的人,只是在我们指出具体哪行代码有问题后,用开源模型重新定位了那行代码而已。这根本不是一回事。
至于“营销”的说法,不发布这个超级强大的模型让我们在商业上承受了巨大的损失,它本来可以极大加速内外部的研发。如果这能帮助防御者,那它对攻击者的帮助也是同等的。所以我们目前的策略是先把它交给防御方去修补系统漏洞。一旦所有的漏洞“窟窿”被补上,未来的互联网生态将变得极其安全。 那些在 X 上进行狙击和反向操作的人(包括某些竞争对手),未能严肃对待全社会的风险权衡,是一种极度不成熟的体现。
主持人:你们是否已经做出了你不完全满意的权衡?
Dario:Anthropic 的整个历史充满了权衡。如果在一个理想世界中,你可能会花上数年研究聊天机器人的每一个隐患再发布。虽然我们确实推迟了最初版本的 Claude 几个月,但一切仍然是权衡。现在我们处于商业领先地位,我和 Daniela 正在尽一切所能将指针进一步向“谨慎行事”方向拨动。这就是限制 Mythos 发布的初衷,如果你不是领先的玩家,你很难做出那样的决定。
主持人:既然这项技术如此强大,为什么政府不直接接管你们?
Dario:这是一个非常严肃的担忧。纵观历史,所有前所未有的强大技术(核武器、互联网、GPS、手机)最初都诞生于政府和联邦实验室。AI 是第一个完全在私营部门构建且政府涉足较晚的技术,这种状况其实危险且不稳定。但现在政府不做的隐患确实比私营部门做的隐患更大。所以我们需要权力的制衡:我们设立了“长期利益信托基金”,他们有权罢免绝大多数董事甚至解雇我,这引入了公共治理的元素。
在政府层面,我们需要立法和司法部门实施强制性的发布前测试与红线监管。我既害怕公司掌控它,也害怕政府垄断它,双方必须相互制衡。非常可笑的是,硅谷里有一群人,他们从极端反对任何监管甚至透明度要求(说这会扼杀创新),在看到第一次真正的危险后,立刻摇摆到宣称“政府应该将其国有化”。这种在极端两极反复横跳的反应非常不成熟,我们需要的是理性的中庸之道。
主持人:你们领域总在谈论 AI 变得好到足以进行“自我改进”的时刻。你们的研究人员认为这快到了,具体还有多远?
Dario:我认为它不是一个特定的“时刻”,而是一个持续加速的指数过程。我们已经看到 AI 开始协助提出下一代 AI 的架构。一年前 AI 让全要素生产率提高了 10-15%,现在可能是 20-30%。它不会在某一时刻突然失控,而是在这条平滑的指数曲线上,我们需要在每一个节点评估是否应该放慢速度并施加更多控制。理智的应对措施是让我们的反制措施随着技术力量的增长平滑地逐步升级,而不是惊慌失措。
主持人:你曾说人类文明有 10-25% 的几率崩溃。这并非微不足道。会不会有这样一种情况:Anthropic 制造的某样东西导致了这种崩溃?
Dario:我当然希望不会。这种风险概率源于技术的内在不可预测性,以及世界格局的复杂性。我们采取的种种措施正是为了降低、而不是增加这个崩溃概率。就像航空业,即使你造的飞机比别人的安全十倍,你也不可能向别人绝对保证它“永远不会坠毁”。
相关阅读:OpenAI 和 Anthropic 集体改口:AI 就业末日论不流行了?
