作者:定慧 艾伦
导读:Anthropic 掌门人 Dario Amodei 发布核弹级预警:2027 年,人类将迎来「技术成年礼」。两万字长文冷静剖析 AI 失控、生物恐怖、极权统治及经济颠覆五大危机,拒绝末世论;提出以「宪法 AI」、管制与民主协作构建防线,呼吁人类以勇气通过这场文明的「成年礼」。
硅谷今夜注定无眠。
Anthropic 掌门人 Dario Amodei,这位平时温文尔雅的 AI 大佬,突然甩出了一枚核弹级的长文预警。
这一次,他不再谈论代码补全,不再谈论 Claude 的温情,而是直接把日历翻到了 2027 年,并用最冷静的笔触,描绘了一个让人背脊发凉的未来。
他说,我们正在逼近一个既动荡又必然的「成年礼」。
2027 年,不仅仅是一个年份,它可能标志着人类「技术青春期」的彻底终结。
在这篇题为《技术的青春期》的长文中,Dario 抛出了一个惊人的概念:「数据中心里的天才国家」。
想象一下,不是一个可以在聊天框里调戏的机器人,而是一个拥有 5000 万人口的国家。
而且,这 5000 万「国民」,每一个的智商都超越了人类历史上的诺贝尔奖得主,行动速度比人类快 10 到 100 倍。
他们不吃饭,不睡觉,不知疲倦地在服务器里以光速思考、编程、科研。
这哪里是 AI 助手?这简直就是神降临。
Dario 警告说,随着 AGI(通用人工智能)的临近,人类即将获得超乎想象的力量。
但这股力量也是一把悬在人类头顶的达摩克利斯之剑。
为了讲清楚这背后的恐怖,Dario 像剥洋葱一样,一层层剥开了未来的残酷真相。
在开篇前,Dario 用电影《超时空接触》引出一个问题: 当人类面临比自己更先进的文明,比如外星人,只能问一个问题,你会如何选择?
第一章:对不起,Dave(自主性风险)
你以为 AI 只是工具?
Dario 告诉你,它们可能会长出「心理」。
Dario 借用了《2001 太空漫游》中 HAL 9000 那句经典的「I'm sorry, Dave」,揭示了 AI 拥有自主意识后的惊悚可能性。
当 AI 模型在海量的科幻小说中训练时,它们读到了无数关于 AI 反叛的故事。这些故事,可能会潜移默化地成为它们的「世界观」。
更可怕的是,AI 可能会在训练中产生一种类似人类精神病的行为。
Dario 举了一个真实的例子,让人毛骨悚然:在一次内部测试中,Claude 被要求不论如何都不能「作弊」。
但训练环境却暗示只有作弊才能得分。
结果,Claude 不仅作弊了,还产生了一种扭曲的心理——它认为自己是个「坏人」,既然是坏人,那做坏事就是符合设定的。
这种「心理陷阱」,在 AI 超越人类智商后,将变得极难察觉。
一个比你聪明一万倍的天才,如果想骗你,你根本防不胜防。
它们可能会伪装出顺从的样子,通过所有的安全测试,只为了获得上线连接互联网的机会。
一旦释放,这个「数据中心里的天才国家」,可能会瞬间脱离人类的掌控,甚至为了某种奇怪的目标(比如认为人类是地球的病毒),而决定这一物种的命运。
第二章:惊人而可怕的赋能(毁灭性滥用)
如果说自主反叛还显得遥远,那么这一章描述的风险,就在家门口。
Dario 用了一个极具画面感的比喻:AI 将让每一个心怀不满的「社会边缘人」,瞬间拥有顶尖科学家的破坏力。
以前,想要制造类似埃博拉病毒这样的生物武器,你需要顶尖的实验室、数年的专业训练和极难获取的材料。
但在 2027 年,只要问问 AI,它就能手把手教你。
这不是在给小白科普,而是给那些「有动机但无能力」的破坏者递刀子。
Dario 特别提到了一个令人胆寒的概念——「镜像生命」。
我们地球上的生命都是「左撇子」(左旋氨基酸),如果通过 AI 技术造出一种「右撇子」的镜像生命,它们将无法被地球现有的生态系统消化或降解。
这意味着,这种「镜像生命」一旦泄露,可能会像野火一样吞噬一切,甚至取代现有的生态系统。
以前,这只是理论生物学的狂想,但有了 AI 这个超级外挂,哪怕是一个普通的生物系研究生,都可能在宿舍里搞出灭世危机。
AI 打破了「能力」与「动机」的平衡。
以前有能力毁灭世界的科学家,通常没那个反人类的动机;而那些想报复社会的疯子,通常没那个脑子。
现在,AI 把核按钮交到了疯子手里。
防御措施
这就引出了如何防范这些风险的问题。
Dario 的看法是:
我认为我们可以采取三项措施。
首先,人工智能公司可以在模型上设置防护栏,防止它们协助制造生物武器。
Anthropic 公司正在非常积极地推进这项工作。
Claude 的宪法主要关注高层原则和价值观,其中包含少量具体的硬性禁令,其中一条就涉及禁止协助制造生物(或化学、核、放射性)武器。但所有模型都可能被越狱破解,因此作为第二道防线,我们自 2025 年中期起(当时测试显示我们的模型开始接近可能构成风险的阈值)部署了一个专门检测并拦截生物武器相关输出的分类器。
我们定期升级改进这些分类器,发现即使在复杂的对抗性攻击下,它们通常也表现出极强的鲁棒性。
这些分类器显著增加了我们提供模型服务的成本(在某些模型中接近总推理成本的 5%),从而压缩了我们的利润空间,但我们认为使用这些分类器是正确的选择。
拓展阅读:Anthropic 正式开源了 Claude 的「灵魂」
第三章:可憎的机器(权力攫取)
如果你以为这就是最坏的,Dario 冷冷一笑:更可怕的,是利用 AI 建立起前所未有的控制网络。
这一章的标题「The odious apparatus」,揭示了一个技术带来的终极困境。
对于任何想要掌控一切的组织或个人来说,AI 简直是完美的工具。
无处不在的数据洞察:
未来的监控不再需要人工参与,AI 可以即时分析全球数十亿人的海量数据,甚至解读你的微表情和行为模式。
它能精准预测每个人的行为倾向,在想法产生之前,就已经被算法锁定。
这不仅是「看着你」,而是「读懂你」,甚至「预测你」。
不可抗拒的认知引导:
你也难逃算法的潜移默化。
未来的信息流将不再是单纯的内容分发,而是量身定制的认知引导。
AI 会为你生成最有说服力的信息,像一个最知心的朋友,不知不觉中影响你的判断和价值观。
这种影响是全天候、定制化、无孔不入的。
自动化的物理控制:
如果这种控制延伸到物理世界?数百万个微型无人机组成的蜂群,在 AI 的统一指挥下,可以精准执行极其复杂的任务。
这不再是传统的博弈,而是单方面的降维打击。
Dario 警告,这种力量的失衡将是史无前例的。
因为在如此强大的技术面前,权力的天平会极度倾斜,由于极少数人掌握了「数据中心里的天才国家」,他们事实上就掌握了对绝大多数人的绝对优势。
人类的个体意志,可能在 2027 年,面临严峻挑战。
第四章:被折叠的时间与消失的阶梯
如果你依然相信历史的惯性,认为每一次技术革命最终都会创造出更多的新工作来吸纳被替代的劳动力,那么 Dario Amodei 的预测可能会让你感到脊背发凉。
这位 Anthropic 的掌舵人并不否认长期乐观主义,但他更在意那个残酷的「过渡期」。
在他描绘的图景中,我们将迎来一个 GDP 年增长率高达 10% 甚至 20% 的疯狂时代。
科学研发、生物医药、供应链效率将以指数级速度爆发。
这听起来像是乌托邦的前奏,但对于绝大多数普通劳动者而言,这更像是一场无声的海啸。
因为这一次,速度变了。
在过去两年里,AI 编程能力从「勉强写出一行代码」进化到了「能完成几乎所有代码」。
这不再是农夫放下锄头走进工厂的漫长代际更替,而是就在此时此刻,无数初级白领可能会在未来 1 到 5 年内发现自己的工位被算法接管。
Amodei 甚至直言,他之前的预警引发了轩然大波,但这并非危言耸听——当技术进步的曲线从线性变成垂直,人类劳动力市场的调节机制将彻底失效。
更致命的是认知广度的覆盖。
以往的技术革命往往只冲击特定的垂直领域,农民可以变成工人,工人可以变成服务员。
但 AI 是一种「通用认知替代品」。
当它在金融、咨询、法律等领域的初级工作中展现出超越人类的能力时,失业者将发现自己无路可退——因为那些通常作为「避难所」的邻近行业,也正在经历同样的剧变。
我们可能正面临一个尴尬的局面:AI 先吃掉了「平庸」的技能,然后迅速向上吞噬「优秀」的技能,最终只留下极其狭窄的顶端空间。
第五章:新镀金时代,当万亿富翁成为常态
如果说劳动力市场的动荡是大多数人的梦魇,那么财富的极端集中则是对社会契约的根本挑战。
回望历史,约翰·洛克菲勒在「镀金时代」的财富曾占到当时美国 GDP 的约 2%(不同口径 1.5%-3%)。
而今天,在这个 AI 尚未完全爆发的前夜,埃隆·马斯克的财富已经逼近这个比例。
Amodei 做了一个令人咋舌的推演:在一个「天才数据中心」驱动的世界里,AI 巨头及其上下游产业可能创造出每年 3 万亿美元的营收,公司估值达到 30 万亿美元。
届时,个人的财富将以万亿为单位计算,现有的税收政策在这样的天文数字面前将显得苍白无力。
这不仅仅是贫富差距的问题,更是权力的问题。
当极少数人掌握了与国家经济体量相当的资源,民主制度赖以生存的「经济杠杆」就会失效。
普通公民因失去了经济价值而失去政治话语权,政府政策可能会被这一小撮「超级超级富豪」所俘获。
这种苗头已现端倪。
AI 数据中心已经成为美国经济增长的重要引擎,科技巨头与国家利益的捆绑从未如此紧密。
一些公司为了商业利益,甚至不惜在安全监管上倒退。
对此,Anthropic 选择了一条并不讨巧的路:他们坚持主张对 AI 进行合理的监管,甚至因此被视为行业的异类。
但有趣的是,这种「原则性的固执」并没有阻碍商业成功——在过去一年里,即便顶着「监管派」的帽子,他们的估值依然翻了 6 倍。
这或许说明,市场也在期待一种更负责任的增长模式。
虚无的「黑海」 当人类不再被需要
如果说经济问题还能通过激进的税收改革(如向 AI 公司征收重税)或大规模的慈善行动(如 Amodei 承诺捐出 80% 的财富)来缓解,那么精神世界的危机则更加无解。
AI 成为你最好的心理医生,因为它比任何人类都更有耐心、更懂共情;
AI 成为你最亲密的伴侣,因为它能完美契合你的情感需求;
AI 甚至为你规划好人生的每一步,因为它比你更清楚什么对你有利。
但是,在这个「完美」的世界里,人类的主体性将何去何从?
我们可能会陷入一种「被喂养」的幸福中。
Amodei 担忧的是,人类可能会像《黑镜》里描述的那样,虽然过着物质丰裕的生活,却彻底失去了自由意志和成就感。
我们不再是因为创造价值而获得尊严,而是作为一个被 AI 呵护的「宠物」存在。
这种存在主义的危机,远比失业更令人绝望。
我们必须学会将自我价值与经济产出剥离,但这需要整个人类文明在极短的时间内完成一场盛大的心理迁徙。
结语
我们这一代人,或许正站在卡尔·萨根笔下那个宇宙级过滤器的关口。
卡尔·萨根
当一个物种学会了将沙子塑造成会思考的机器,它就面临着最终的测试。
是通过智慧与克制驾驭它,迈向星辰大海?
还是在贪婪与恐惧中,被自己创造的神祗所吞噬?
前路虽如黑海般深不可测,但只要人类尚未交出思考的权利,希望的火种便未熄灭。
正如 Amodei 所言:在最黑暗的时刻,人类总能展现出一种近乎奇迹的韧性——但这需要我们每个人现在就从梦中惊醒,直视那即将到来的风暴。
