每隔几代人,就会出现一项新技术改变一切。
想象一下,20 世纪 20 年代,电力来到美国一座偏远小镇。
在输电线路到来之前,日常生活受制于物理局限:挑水、手洗衣物、用冰块保存食物,日落之后大多数活动便不能再继续进行。电力并未在一夜之间改变每个家庭,许多人从中获益的程度也参差不齐。
但随着电力逐渐普及,寻常生活悄然改变。夜晚的灯光延长了一天的时间;电动水泵、家用电器和冰箱减轻了许多繁重的日常劳作;收音机把远在数百英里外的新闻、音乐与情感联结带进了家庭和公共场所。
电力最初的目的是为了便利人们的生活,但它更深远的影响,来自于随着越来越多的人能够使用它创造新的可能。随着时间推移,新的可能性不断涌现——机器与计算机极大地加速了医学、工程及众多领域的进步。
到 20 世纪末,人类平均寿命延长了 20 多年,通胀调整后的中位收入大约翻了三倍。
这些成就在很大程度上得益于医疗、卫生与生活水平的提升,而其中许多正是由电力的广泛普及及相关技术进步所带动或加速的。
AI 正在让这一现象重现。AI 即将具备非凡的能力。但重点不在于技术本身,而在于人们能用它做什么。
它可以帮助人们看懂一张医疗账单、学会一项新技能、创办一家小企业、照料年迈的父母、理解一项法律或财务决策、将一个想法变为现实,甚至推动一项科学发现。
夜晚灯光带来的新奇感或许很快便会消退,但人们决定用光去做什么,却不会。而正因为技术始终是推动繁荣的可靠途径,我们认为 AI 应当向所有人开放,让每个人都能按照自己的需要,在任何地方、以任何方式加以使用。
但是这样的未来不会自然而然地发生。
变革性技术可以集中权力,也可以分散权力;可以让少数人的生活更加便利,也可以为更多人拓展机遇。我们的理念基于一个信念:AI 应当服务于人——帮助人们追求自己的目标,增强他们的能力,并将这项技术的红利尽可能广泛地惠及大众。
我们的第一项承诺,是为人类服务而构建 AI。这意味着我们希望广泛赋能于大众,而不是让权力集中于少数几家公司、政府或个人。
我们相信,一个更安全的未来,是权力广泛分布的,让世界上更多的人能够参与构建一个具有韧性的生态系统。
我们对 AI 持乐观态度,因为我们相信它能够拓展人类的能力与福祉。
但我们同样对风险保持清醒。强大的系统必须保证安全,必须与人类的意图保持一致,并接受人类的监督与控制。OpenAI 的使命是确保 AGI 造福全人类。这意味着我们要构建的系统,是帮助人们做更多他们自己选择的事,而不是替代人类。
将一切完全自动化,并非我们想要的未来。
那将是绝望的,也将是危险的。AI 应当帮助人们去完善自己,而不是代替人类。随着 AI 系统能力日益增强,人类的角色将变得更加重要:把握方向、权衡取舍、运用判断,并将价值观、品味、关怀与责任带入工作之中。
在未来,人类的一项核心使命,将是决定什么值得去做。
我们相信,在未来几年内,AI 开展 AI 研究将成为决定进步速度的关键因素。
这一点至关重要,因为「对齐」本身就是一个深奥的研究难题。为了取得快速而深入的进展,我们的研究人员将需要借助 AI 系统来测试想法、发现错误、探索替代方案,并与我们并肩迭代。
然而,更快的技术进步让人类的判断与公共协作变得更加重要,而非更次要。未来应当由人类、制度与社会来共同塑造,而不仅仅只由那些构建最强大系统的公司来决定。
随着前沿 AI 开发的持续推进,我们预计国家层面与全球层面的协调将愈发重要。
我们长期以来坚信,最终应当建立一个国际组织,协调各主要 AI 力量,共同降低灾难性风险。
将合作与共同的安全作为标准,同样也作为前进道路的重要组成部分——尤其是因为商业竞争与国家竞争所带来的问题难以回避。
此类组织的目标之一,应是让世界能够采取协调一致的行动,其中包括在必要时放缓前沿领域的开发,以使社会的韧性、安全性与对齐能力能够跟上技术进步的步伐。
目前,OpenAI 有三大核心目标:
构建自动化 AI 研究员——一个能够加速并日益自动化研究过程本身的 AI 系统,同时保持可操控性、可问责性,并与人类保持紧密联系。
我们内部的判断是,到 2028 年 3 月,我们相当一部分研究或将由 AI 系统与我们自己的研究人员协同完成。
为了在对齐研究上取得足够的进展,我们相信需要 AI 与我们一同迭代。这将帮助我们共同导航向「后 AGI 世界」的过渡,让我们能够集体决定通往未来的路径。
加速经济发展——通过加速科学进步、提升生产力与推动经济增长,同时致力于确保成果得到广泛共享。
每个人都应有机会在 AI 创造的繁荣中分享有意义的一份。
为地球上的每个人提供一位个人 AGI——赋予他们以自己选择的方式,从人类最具变革性的技术之一中获益。
为了实现这一切,我们正在进入 OpenAI 的第三阶段。
OpenAI 的第一阶段,是围绕 AGI 开展研究。
第二阶段始于我们的研究开始与现实世界产生关联,我们成为一家产品公司:部署我们的系统,从人们的使用方式中学习,并在安全与「使命对齐」的前提下持续推进 AGI 进展。
如今,我们正迈入第三阶段。
经济正在围绕 AI 重塑。核心问题已经变成:如何让先进 AI 变得充裕、可负担、安全、实用,且足够易用,让每个人和每个组织都能从中受益。
前沿能力只是工作的一部分,更大的任务是将这种能力转化为人们真正能够用来创造与发展的工具。
最重要的是,我们相信权力的广泛分布将有助于通向更美好的未来。人类历史表明,权力的集中制造会让社会变得脆弱,而权力的广泛共享则使社会更具韧性、更能适应变化、更加自由。
这正是普及性之所以重要的原因,也是安全、隐私、可负担性、开放生态系统与公众监督之所以重要的原因。
一个美好的 AI 未来,不应是少数机构掌控大多数能力与红利的未来。
它应当是一个由许多人、众多企业、各地社区与各个国家都能构建、受益并持有权力的未来。我们相信,这场变革理应属于所有人。
如果我们做的正确,AI 可以成为提升大众生产力、创造力、科学进步与经济机遇的基石,我们也将实现我们的使命:确保 AGI 造福全人类。
