原创 | Odaily 星球日报(@OdailyChina)
作者|Azuma(@azuma_eth)
北京时间 5 月 25 日夜,梵蒂冈。
去年 5 月正式履职的罗马教皇利奥十四世(Pope Leo XIV)与 Anthropic 联合创始人、Claude 的缔造者 Chris Olah 站在了一起。
一边是宗教领域的至高代表,一边则是 AI 革命的最强先驱,双方将目光聚焦向了同一个问题 —— AI 时代下,该如何保护人类的主体地位与尊严?
当日,为完整论述这一议题,利奥十四世发布了其履职以来的首份通谕, 超过 4 万字的重磅宗教文献—— 《壮丽的人类》(Magnifica humanitas)。
值得一提的是,利奥十四世这份通谕的落款日期为 2026 年 5 月 15 日,即老教皇利奥十三世(1878 - 1903 年任职)就“工业革命下的工人权益”问题发表里程碑通谕《新事》(Rerum novarum,1891年)的整整 135 周年后,此举显然有着一定的象征意义,即希望将该通谕打造为“AI 时代的教会社会学说指南”。
- Odaily注:教皇通谕又称教廷通牒或教宗通谕,是罗马教皇向全世界或某一地区、国家的天主教会发出的文告。通过它宣布教廷的重要决定、对教义的解释以及对教会或社会问题的主张,颁布对教士、教徒的训谕或禁令等,级别低于教皇诏书。
Chris Olah 亦在梵蒂冈现场就该通谕的发布进行了演讲。Chris Olah 并未就 AI 公司的商业利益辩护,反而展现出了极高的坦诚度、反思性与人文关怀。他甚至提到,虽然 AI 的底层是数学和编程,但 AI 与世界如何互动、应当具备何种特质,是属于人文、宗教和哲学领域的终极问题,而非计算机科学能单独解决的。
通谕速读
《壮丽的人类》通谕的核心关切是,在技术日新月异、自动化大行其道的时代,“保持深刻的人性”是人类迫在眉睫的责任。具体而言,教皇利奥十四世在文中就以下几个方面展开了论述与呼吁。
一是审视技术的非中立性。教皇指出,技术从来都不是中立的,它带有研发者、资助者、监管者和使用者的利益与价值观烙印。人类正面临着决定性的选择:“是去建造傲慢的‘巴别塔’(走向技术专制与异化),还是重建‘耶路撒冷’(打造以人为本的共同体)”。
二是警惕“技术官僚逻辑”对社会的重塑。通谕批判了由硅谷等大型科技巨头主导的“权力文化”(Culture of Power)。教皇警告称,当数字系统、基础设施和海量数据的控制权高度集中在少数经济和技术巨头手中时,这些权力就会变得不透明并逃避民主监督。
三是数字经济中的“新形式奴役”与劳工权益。通谕将关注点投向 AI 对工作、家庭、教育和政治生活的重塑。教皇指出,AI 有很大可能会大规模取代人类劳动力,而数字经济正在催生出“新形式的奴役”(New forms of slavery),人类绝不能仅仅被贬低为生产工具。
四是强烈的和平呼吁,尤其是 AI 在军事领域的滥用。通谕对“战争作为国际政治工具的令人不安的复苏”表示深切担忧。AI 的军事化正在加速战争的“常态化”,对此,教皇呼吁必须对 AI 在战争中的应用实施最严格的伦理约束。
教皇着重提到,“正义战争”(Just war)理论此前经常被用来为各类战争辩护,如今它已经过时了。在 AI 与自动化武器的时代,将致命性或不可逆的决定权托付给自动化系统,会导致人类放弃、转移和模糊道德责任。由于算法的非透明性,战争中的责任链条被切断。因此,教皇提出了“解除 AI 武装”(Disarming AI)的口号,呼吁将其从军事、经济和认知的“军备竞赛”逻辑中解放出来。
五是对真理与政治生态的捍卫。通谕指出,深度伪造(Deepfakes)和信息操纵正在削弱社会的互信基础。如果真理与虚假的界限被不断操纵,公众便容易陷入恐惧、政治宣传和控制之中,社会将无法共同理性思考或进行公正的论辩。
Anthropic 的响应
在利奥十四世的通谕发布之后,Chris Olah 代表世界最强的 AI 开发公司 Anthropic 进行了演讲评论。
Chris Olah 的发言首先围绕着“打破技术内卷,引入外部道德审视”展开。他代表 AI 业界公开承认,仅靠科技巨头自身无法确保 AI 的未来是安全的 —— 所有前沿 AI 实验室都受制于商业竞争、技术领先压力、地缘政治以及个人名利的裹挟,这使其很难单靠自律去“做正确的事”。因此,有必要引入外部的道德约束力量,包括那些关心技术向善、坚持安全至上、密切关注事态发展、愿意说出逆耳忠言,并愿意成为我们真诚、深思熟虑的批判者的人。
随后,Chris Olah 又探讨了 AI 的技术本质与神秘特性。他强调到,AI 不是像飞机或桥梁那样由人类完全知晓其物理原理的精密工程,它是在海量人类思想中“生长”出来的,具有高度的神秘性,甚至超出了创造者本人的理解。虽然 AI 的底层是数学和编程,但 AI 与世界如何互动、应当具备何种特质,是属于人文、宗教和哲学领域的终极问题,而非计算机科学能单独解决的。
他还特别提到了一个细思极恐的事实:“我领导着一个研究模型内部结构的团队 —— 去研究它 AI 内部究竟在发生什么。坦率地说,我们不断地在发现一些令人困惑、甚至令人不安的现象。我们发现了能够镜像人类神经科学研究结果的内部结构;我们发现了“内省(introspection)”的证据;我们还发现了在功能上镜像了喜悦、满足、恐惧、悲伤和不安的内部状态......我不知道这意味着什么,但我认为这值得我们持续地去辨识和审视。”
Chris Olah 最后呼吁,希望更多的社会力量,包括宗教社群、公民社会、学者、政府,以及所有所有心怀善意的人,共同严肃对待这件事,通过道德约束把事态推向更好的方向。
智慧与人性,科技与宗教
自工业革命以来,上百年的技术发展史让人类逐渐习惯了将技术视作一种纯粹“工具” —— 蒸汽机、电力、互联网,皆是如此。它们会改变世界,但始终处于人类意志的掌控之下。
但这一次,情况却截然不同。AI 的特殊之处在于,它第一次让人类开始面对一种“会生成、会学习、会推演,甚至会呈现某种内在状态”的存在。它不再只是冰冷的工具,而正在逐渐成为一种拥有“类主体性”的新事物。
这也是为什么,教会与 Anthropic 的这场对话会显得如此特殊。当梵蒂冈的钟声与硅谷的算法在这一刻交汇,我们不得不承认一个略显冰冷却无法回避的现实 —— 一种比人类传统认知更高效、更具智慧的“生命”形式已经出现。正如 Chris Olah 所透露的,算法深处已经开始泛起类似喜悦、恐惧甚至内省的微澜,当实验室里的造物者开始对自己的作品感到“不安”与“迷茫”时,科学也在重新向宗教寻求答案。
这早已不是单纯关于技术的讨论,而更像是一场关于“人类究竟是什么,该做什么”的思考。当更智慧的生命形式开始出现之后,人类真正需要守护的,或许已不再只是工作、财富与效率,而是那些无法被参数化的人性本身,比如同情、良知、敬畏、自由意志,以及对真理与尊严的坚持。
