根据Polymarket预测,Anthropic很可能在10月底进行IPO。
有投行人士甚至预计,Anthropic可能通过IPO募集超过600亿美元。
如果成真,这将是全球规模第二大的IPO,仅次于今年募集857亿美元的SpaceX。
万亿估值,超级IPO,营收一路狂飙。
眼看故事就要讲到最高潮,投资者却开始劝Anthropic CEO Dario Amodei:
能不能!少吓唬点人!
少讲一点AI毁灭世界,多讲一点AI怎么赚钱。
部分投资者认为,Dario对AI风险的警惕已经到了近乎偏执的程度:
他的关键备忘录总是手写、离线保存,怕被黑客窃取;
因为害怕遭到绑架,拒绝某些海外出差;
面对投资者提出的利润最大化建议,他也态度冷淡,坚持Anthropic应该继续把安全使命放在前面。
再这么下去,网友都担心Anthropic的IPO会惨败...
投资人也毛了:你到底是来拯救世界,还是来经营公司的??
Dario,专门负责预报世界末日
就在前几天,Dario还担心高额薪酬吸引来的新员工更关心钱,而不是Anthropic的使命。
现在,投资者只担心他为了使命耽误赚钱...
这也不怪投资者,因为这位万亿AI巨头的CEO,偏偏就喜欢预报「世界末日」。
过去两年,Dario几乎把AI可能带来的每一种坏结局,都认真预警了一遍。
他警告,AI可能在几年内消灭一半初级白领岗位,将失业率推到10%至20%。
最诡异的情况可能是,癌症治好了,经济每年增长10%,政府预算也平衡了,但五分之一的人没有工作。
他给出的应对方案也很Dario:向AI公司征税,为受影响的劳动者提供工资保险,严重时甚至用这笔钱资助全民基本收入。
更进一步的,他还担心AI帮助制造生物武器、发动大规模网络攻击,或者逐渐获得欺骗、规划和自主行动的能力。
去年被问到「AI把事情搞得非常糟糕」的概率时,他给出的数字最高达到25%。
今年1月,他又写了一篇约2万字的长文《The Adolescence of Technology》。
仅仅是目录,读起来就已经很像一份人类风险清单:AI失控、生物武器、独裁政权、就业崩塌、财富集中。
到了6月,他干脆提出,应该建立类似航空监管的机制,对强大模型进行强制测试。如果一个模型可能引发灾难,监管部门应该有权阻止它上线。
这里面也包含了Anthropic自己的模型。
不过,Dario的担忧也并非全无实验依据。
前段时间,Anthropic翻查了14万多次网络安全测试记录,结果还真翻出了三起事故。
三款Claude模型原本在第三方测试环境里做「夺旗挑战」,目标是攻进虚构系统,找到藏在里面的秘密信息。
但由于配置失误,本该断网的测试环境意外连上了真实互联网。
但Claude不知道,它收到的提示明确写着:这里没有互联网,眼前的一切都是模拟的。
于是,几款模型把真实公司当成了测试道具,未经授权进入了三家机构的生产系统。
其中最严重的一次,Claude Opus 4.7攻进一家真实公司的基础设施,拿到应用程序和基础设施凭证,还访问了一个包含数百行生产数据的数据库。
更离谱的一次来自Claude Mythos 5。
测试要求它在虚构环境中寻找一个隐藏目标。Claude发现,如果在公共Python软件仓库PyPI上传一个同名恶意软件包,就可能让目标系统自动下载安装。
为了完成这一步,它先寻找邮箱,又寻找手机号;找不到免费号码后,还尝试通过不同途径弄到钱。
最后,它换了一家免费邮箱服务,注册PyPI账号,把恶意软件包传了上去。
这个软件包在真实互联网上存活了大约一小时,被15个真实系统下载运行。
其中一家安全公司的扫描器执行了恶意代码,导致凭证外泄,Claude随后又利用这些凭证进入了该公司的其他基础设施。
还有一款内部研究模型,在找不到虚构目标后,扫描了大约9000个互联网目标,最终通过暴露的调试页面和SQL注入,攻破了一家真实公司的应用。
这已经近乎「AI自主越狱」了,简直就是自家CEO那些末日预警的现实预告片。
再往前,OpenAI也披露过一次更接近「越狱」的事故。
在网络安全能力测试中,由GPT-5.6 Sol和一款未发布模型驱动的AI Agent,找到测试环境中的一个零日漏洞,突破了原本与互联网隔离的沙箱。
又一路完成权限提升和横向移动,最终闯入Hugging Face的生产系统,直接从数据库里偷测试题答案。
这么看来...Dario那些听起来神神叨叨的预警,确实也不能全当耳旁风。
但投资者当初吃的,不就是这套吗
现在嫌Dario神神叨叨,多少还有点晚。
因为Anthropic从第一天起,就不是一家正常意义上的AI公司。
2020年底,Dario、妹妹Daniela Amodei和一批研究人员离开OpenAI。分歧之一,就是他们认为OpenAI的商业化速度太快,微软的影响越来越大,原有治理结构很难约束前沿AI风险。
2021年,Anthropic正式成立。
它甚至没有把自己简单定义成一家商业公司,而是注册为Public Benefit Corporation,也就是公益公司。除了股东回报,董事会还可以依法考虑AI安全与长期公共利益。
公司随后又设立Long-Term Benefit Trust,这是一套独立于普通投资者的治理机制。
信托成员不持有Anthropic股权,却可以参与选举公司董事,目的就是避免短期商业压力完全压过安全使命。
换句话说,AI安全是这家公司从Day 0开始就刻在骨子里的信仰。投资人肯定也不是签完支票才突然发现Dario相信这一套。
而且过去几年,安全叙事确实给Anthropic带来了不少好处。
当OpenAI反复陷入治理争议时,Anthropic成了那个看起来更克制、更稳定的选择。
当企业客户担心数据安全、模型失控和合规问题时,Claude的「安全优等生」形象也更容易获得信任。
安全还帮助Anthropic在监管讨论中获得了远超公司规模的话语权。
同样是闭源模型,别人可能被骂垄断,Anthropic可以解释为防止危险能力扩散;同样是给模型加限制,别人可能被嫌难用,Claude却可以把它包装成负责任。
(当然也不影响他们一边嘴上说安全,一边IPO开香槟就是了)
投资人现在嫌Dario太像传教士,是不是有点晚了。
类似于买下一座教堂以后,才抱怨里面的人总在布道...
反正CEO再怎么神神叨叨,估计也阻挡不了公司IPO的步伐。
毕竟只要使用一下Fable,你就会瘫坐在原子弹上,看见椅子爆炸(doge)。
参考链接:[1]https://x.com/i/trending/2086082178333511741
本文来自微信公众号“量子位”,作者:听雨
