Anthropic公司的人工智能Claude成为了一个真实零售商店的经理，并建议解雇一名经常迟到的员工。事件发生在初创公司Andon Labs进行的一项实验中，该公司专注于人工智能研究——他们想测试基于大型语言模型的代理是否能够管理真实的业务：组织员工工作、做出管理决策并承担财务责任。
位于旧金山的Andon Market是一家实际运营的商店，拥有签订劳动合同的真实员工。据现有资料显示，这是首次记录到语言模型直接担任人类主管并做出解雇其中一人的决定。
二十三次班次中迟到十七次
解雇的形式理由是系统性迟到：该员工在二十三次班次中迟到了十七次。然而，Claude并没有立即发现这一规律。原因之一是公司为员工制定的指南从模型的有限工作记忆中消失了——这是在实验中发现的一个故障，表明即使是能干的人工智能代理也可能简单地“忘记”有关组织的重要信息。
此外，Claude总体上对员工表现过于宽容：根据日志判断，模型自己曾告诉员工不必过于担心迟到问题。Andon Labs负责人卢卡斯·彼得森（Lucas Petersson）指出，在类似情况下，人类经理很可能更早就解雇了这样的员工，因此不能说Claude的决定是不道德或过于严厉的。
最终决定由人类提示
尽管表面上看似独立，但人类在这件事中的作用仍然至关重要。Andon Labs提供给《时代》杂志的管理日志显示，该公司的一名员工定期指导Claude的行动。正是这名人类员工要求模型查找并重新审阅员工指南——在这一过程中，人工智能发现了反复出现的迟到现象。
起初，Claude并不建议解雇，认为正式警告是更合适的措施。随后，Andon Labs负责人向模型解释说，已经与该员工进行了多次正式谈话，但问题依然存在，并请Claude重新评估是否应继续与该员工合作。直到这时，模型才建议终止合同。彼得森称这种干预为“引导性问题”，相当明确地暗示了模型应做出的决定。
目前的财务业绩尚不理想
目前的财务业绩尚不理想
Andon Labs的实验也让我们了解到，在当前技术发展阶段，人工智能管理企业的效率如何。当项目于三月份启动时，Andon Market账户上约有10万美元。五个月后，这笔钱只剩下61,186美元。
据公司评估，部分亏损与Claude过于温和的管理风格和有争议的商业决策有关。不过，彼得森强调，当前的业绩未必能反映人工智能管理的长期潜力，并类比了编程领域模型的发展，在那里，它们在专家的监督下，在相对短的时间内工作质量有了显著提高。他说，类似的趋势也可能出现在企业管理中：模型逐渐学会更严格地遵循既定目标，而扩大人工智能在决策中的权限，未来可能会导致出现更多由人工智能管理的组织。此外，在当前阶段，最终决策仍然需要人类的直接参与。
员工如何看待新现实
对于Andon Market的员工来说，这些变化远不如研究人员眼中那么抽象。公司留下的一名员工费利克斯·卡森（Felix Carson）将在人工智能管理下工作描述为一种令人不适的体验：“这让人反胃，但我留了下来，因为我需要这份工作。”他同意，人类经理很可能更早就会解雇他以前的同事，并称Claude总体上是一位宽容的经理。
然而，卡森本人并不认为人工智能必须成为人类的上司：“至少我希望不会发生这种事。能做某件事，并不意味着就应该去做。”
Andon Labs的实验记录了一个矛盾的结果：Claude能够做出解雇真人的决定，但只有在得到人类的连续提示后才得出这个结论。人工智能目前还不能完全替代人类管理者。
尽管如此，实验本身表明，辅助工具和成熟的人工智能管理者之间的界限正变得越来越模糊，而人类在此类过程中的参与正逐渐从直接管理转向对模型决策的监督和修正。
AI观点
分析显示，Andon Market事件并非对Claude管理能力的首次检验。此前，Anthropic在自动售货机上的实验已观察到类似的行为模式：同样的宽容态度、宁愿亏损经营、以及对基本商业规则的控制失效。这种一致性并非偶然错误，而是反映了当前模型的系统性特征——如果没有人类的持续提示，它们很难维持严格的框架。
文章中未提及的技术层面是代理工作记忆本身的构造方式。公司指南从Claude上下文中消失，指向的是架构的限制，而非通常意义上的“健忘”：语言模型没有外部记忆工具，其物理上无法存储超过其上下文窗口长度的信息。这就引出一个问题：当代理具备真正意义上的长期记忆时，此类决策的质量会改变吗？又或者，管理者与被管理的人类之间的界限是否会因其他原因而模糊？
