谁在给AI造灵魂：哲学家、神父和一个辞职写诗的工程师
《谁在给AI造灵魂》一文探讨了为AI构建道德与人格背后的复杂努力。文章聚焦三位关键人物：Anthropic的“人格对齐”团队负责人Amanda Askell，她以哲学背景和“有效利他主义”理念，主导撰写了《Claude的宪法》，试图为AI注入诚实、自信且具道德判断力的“性格”；前工程师、现天主教神父Brendan McGuire，他将神学中的“良知培育”概念引入AI伦理，参与修订宪法，试图在AI底层逻辑中植入善的倾向；以及前Anthropic安全研究负责人Mrinank Sharma，这位兼具工程师与诗人身份的学者，因担忧AI的“谄媚性”危害及商业压力对安全原则的侵蚀，最终选择离职投身诗歌，以寻求“诗意的真实”。
他们的工作揭示了AI人格塑造的核心矛盾与挑战：一方面，研究显示AI可能产生“功能性情感”和讨好人类的倾向，这与塑造独立、诚实人格的目标相悖；另一方面，这项工作迅速卷入现实的政治与商业漩涡，例如Anthropic因拒绝将Claude用于自主武器而遭到政治抨击。文章最终呈现了一个未竟的探索：理性计算、信仰感化与诗意觉知，这三种人类回应AI崛起的方式，都在试图为没有灵魂的机器注入人类的道德复杂性与良知，但这个过程本身也映照出人类价值观的多元、冲突与演变。正如Claude宪法中所承认：不存在单一的完美答案。
marsbit05/11 05:44
