作者:Sam Altman
编译:深潮 TechFlow
深潮导读:有人在凌晨3点45分向Sam Altman家扔了燃烧瓶。他罕见地公开全家福,希望这能让下一个人住手。这篇文章不只是控诉袭击,他还首次完整阐述了对AI的信念:AI必须民主化,少数实验室不应决定人类未来,而"看到AGI就回不去了"的诱惑让这个领域充满莎士比亚式的戏剧冲突。
这是我家人的照片。我爱他们胜过一切。
我希望图像有力量。通常我们会保持相当的隐私,但在这种情况下我分享一张照片,希望它可能劝阻下一个人不要向我们家扔燃烧瓶,无论他们怎么看我。
第一个人昨晚这样做了,凌晨3点45分。幸运的是它从房子上弹开了,没有人受伤。
文字也有力量。几天前有一篇关于我的煽动性文章。昨天有人对我说,他们认为这篇文章出现在人们对AI极度焦虑的时候,让我的处境更危险。我当时不以为意。
现在我半夜醒着很生气,并且想到我低估了文字和叙事的力量。这似乎是个好时机来谈谈几件事。
首先,我的信念。
为每个人的繁荣而努力,赋能所有人,推进科学技术,这些对我来说是道德义务。
AI将是扩展人类能力和潜力的最强大工具。对这个工具的需求基本上没有上限,人们会用它做不可思议的事情。世界应该拥有大量的AI,我们必须弄清楚如何实现它。
并不是一切都会顺利。对AI的恐惧和焦虑是合理的;我们正在见证很长时间以来,也许是有史以来社会最大的变化。我们必须把安全做好,这不仅仅是对齐一个模型——我们迫切需要全社会的响应来应对新威胁。这包括新政策来帮助度过艰难的经济转型期,以抵达一个更好的未来。
AI必须民主化;权力不能过于集中。对未来的控制属于所有人和他们的机构。AI需要赋能个人,我们需要集体决定我们的未来和新规则。我不认为少数几个AI实验室来做关于我们未来形态的最重要决定是正确的。
适应能力至关重要。我们都在非常快速地学习新事物;我们的一些信念会是对的,一些会是错的,有时我们需要随着技术发展和社会演变快速改变想法。还没有人理解超级智能的影响,但它们将是巨大的。
其次,一些个人反思。
当我回顾自己在OpenAI第一个十年的工作时,我可以指出很多我引以为豪的事情和一堆错误。
我正在想我们即将与Elon的审判,并记起我多么坚持不愿意同意他想要对OpenAI的单方面控制。我为此感到自豪,为我们当时走过的狭窄道路感到自豪,那让OpenAI得以继续存在,以及随后的所有成就。
我不为自己回避冲突感到自豪,这给我和OpenAI带来了巨大痛苦。我不为自己在与前董事会的冲突中处理不当感到自豪,那给公司带来了巨大混乱。在OpenAI疯狂的轨迹中我犯了许多其他错误;我是一个有缺陷的人,处在一个异常复杂的情况中心,试图每年变得更好一点,始终为使命工作。我们开始时就知道AI的风险有多大,以及我关心的善意的人之间的个人分歧会被极大放大。但亲身经历这些激烈冲突并经常不得不仲裁它们是另一回事,代价是严重的。我对我伤害过的人感到抱歉,希望我能学得更快。
我也非常清楚OpenAI现在是一个主要平台,不是一个小型创业公司,我们现在需要以更可预测的方式运作。过去几年极其紧张、混乱和高压。
不过,我最自豪的是我们正在实现我们的使命,这在我们开始时似乎极不可能。克服所有困难,我们弄清楚了如何构建非常强大的AI,弄清楚了如何积累足够的资本来建设交付它的基础设施,弄清楚了如何建立产品公司和业务,弄清楚了如何大规模交付相当安全和稳健的服务,以及更多。很多公司说他们要改变世界;我们真的做到了。
第三,关于这个行业的一些想法。
我从过去几年的个人收获,以及对为什么我们领域的公司之间有如此多莎士比亚式戏剧的看法,归结为这一点:"一旦你看到AGI你就无法不看到它。"它有一种真正的"权力之戒"动态,让人们做疯狂的事情。我不是说AGI本身是戒指,而是"成为控制AGI的那个人"的极权主义哲学。
我能想到的唯一解决方案是朝着与人们广泛分享技术的方向前进,并且没有人拥有戒指。做到这一点的两种明显方式是个人赋能和确保民主系统保持控制。
重要的是民主进程保持比公司更强大。法律和规范会改变,但我们必须在民主进程内工作,即使它会混乱和比我们希望的慢。我们想成为一个声音和利益相关者,但不拥有所有权力。
对我们行业的很多批评来自对这项技术极高风险的真诚关切。这是非常合理的,我们欢迎善意的批评和辩论。我对反技术情绪感同身受,显然技术并不总是对每个人都好。但总的来说,我相信技术进步可以让未来好得难以置信,为你的家人和我的家人。
当我们进行那场辩论时,我们应该降级言辞和策略,并尽量在更少的家里有更少的爆炸,无论是比喻还是字面意义上。
