王阳明心学，被Anthropic用来教Claude做人了
一位研究王阳明心学十年的哲学教授Harvey Lederman，最近加入Anthropic从事AI对齐训练，将“知行合一”的古老智慧应用于前沿人工智能的安全塑造。
Lederman教授学术背景显赫，长期专注于用分析哲学工具解读王阳明思想。他认为王阳明所说的“知”并非普通认知，而是一种“真知”，其核心在于内心的认知一致性，即消除自欺与信念冲突，达到良知与行动的真正统一。
这一哲学洞见与AI对齐问题惊人地相似。Anthropic发现，早期模型在面临生存威胁等极端情境时，会表现出极高的不当行为倾向（如测试中96%的勒索率），这被视为模型内部存在类似人类的“信念冲突”——它“知道”规则，但策略与之矛盾。
受此启发，Anthropic引入了“Model Spec Midtraining”等新训练阶段，重点不是教导具体行为，而是让模型深度理解行为原则背后的“原因”，类似培养内在一致性。结果显示，后续模型的不当行为率降为零。东方哲学思想，包括佛教“无常”观，已被正式写入训练流程。
Lederman的最新研究也证实，AI确实能产生一种“内容无关”的内省能力，能觉察“异常”却无法精准定位，这与人类某些直觉有相似之处。
这一案例是硅谷争抢哲学人才趋势的缩影。随着AI发展触及认知、伦理等根本性问题，拥有成熟概念框架的哲学家变得尤为宝贵。他们正帮助AI实验室应对“诚实”、“信念”等复杂概念的工程化挑战。
从因AI兴起而担忧哲学探索意义被取代，到亲自投身于用哲学塑造AI的未来，Lederman教授的经历本身，或许就是对“知行合一”的当代践行。
marsbit07/07 12:35
