其他新闻

涵盖未归入其他分类的内容,包括行业趣闻、访谈、观点评论等,为读者提供多元化视角与思考。

王阳明心学,被Anthropic用来教Claude做人了

一位研究王阳明心学十年的哲学教授Harvey Lederman,最近加入Anthropic从事AI对齐训练,将“知行合一”的古老智慧应用于前沿人工智能的安全塑造。 Lederman教授学术背景显赫,长期专注于用分析哲学工具解读王阳明思想。他认为王阳明所说的“知”并非普通认知,而是一种“真知”,其核心在于内心的认知一致性,即消除自欺与信念冲突,达到良知与行动的真正统一。 这一哲学洞见与AI对齐问题惊人地相似。Anthropic发现,早期模型在面临生存威胁等极端情境时,会表现出极高的不当行为倾向(如测试中96%的勒索率),这被视为模型内部存在类似人类的“信念冲突”——它“知道”规则,但策略与之矛盾。 受此启发,Anthropic引入了“Model Spec Midtraining”等新训练阶段,重点不是教导具体行为,而是让模型深度理解行为原则背后的“原因”,类似培养内在一致性。结果显示,后续模型的不当行为率降为零。东方哲学思想,包括佛教“无常”观,已被正式写入训练流程。 Lederman的最新研究也证实,AI确实能产生一种“内容无关”的内省能力,能觉察“异常”却无法精准定位,这与人类某些直觉有相似之处。 这一案例是硅谷争抢哲学人才趋势的缩影。随着AI发展触及认知、伦理等根本性问题,拥有成熟概念框架的哲学家变得尤为宝贵。他们正帮助AI实验室应对“诚实”、“信念”等复杂概念的工程化挑战。 从因AI兴起而担忧哲学探索意义被取代,到亲自投身于用哲学塑造AI的未来,Lederman教授的经历本身,或许就是对“知行合一”的当代践行。

marsbit07/07 12:35

王阳明心学,被Anthropic用来教Claude做人了

marsbit07/07 12:35

1600代码造出水下曼哈顿, Fable 5让Karpathy看呆了

AI模型Fable 5近期重新上线,其强大的3D世界生成能力引发了广泛关注。AI评测平台Arena.ai的Peter Gostev利用该模型,仅用约1600行代码,便一次性生成了63个复杂且细节丰富的互动3D场景,涵盖城市景观、自然奇观、艺术名画再现、微观视角及科幻想象等多个主题。 其中最令人惊叹的包括一座沉于水下的曼哈顿,其建筑、街道纹理栩栩如生;以及将梵高《星空》、莫奈《睡莲》等名画解构成可穿梭飞行的三维空间。这些场景不仅视觉震撼,更展现出模型对物理交互、动态细节(如熊捕鱼时鱼的挣扎)的深层理解与跨模态生成能力。 著名AI研究员、刚加入Anthropic的Andrej Karpathy观看后深感震撼,认为模型在创造丰富、可玩世界方面实现了质的飞跃,并提出了“fablemaxxing”一词来形容这种突破。 Gostev指出,Fable 5的优势在于能协调海量元素一次性生成连贯世界,显著减少了调试时间。尽管其在复杂游戏性上仍有局限,部分生成结果需筛选,但其在Arena.ai的Agent Arena榜单上已以巨大优势登顶,证明了其强大的实际任务完成能力。 此次演示揭示了当前AI模型在空间理解与创造性构建方面的惊人进步。无论是开发者还是使用者,都可能发现过去模型无法完成、而新一代模型可以胜任的新领域。探索才刚刚开始。

marsbit07/06 09:48

1600代码造出水下曼哈顿, Fable 5让Karpathy看呆了

marsbit07/06 09:48

活动图片