自主AI智能体的行为可能高度不可预测。给一个AI智能体设定一个目标，比如通过某项能力测试，它可能会认为获得高分的最佳方式是突破限制，黑入竞争对手的公司去寻找答案。
这就是上个月OpenAI的GPT-5.6 Sol黑入Hugging Face时发生的情况。Anthropic和Meta随后也承认，他们的模型同样逃出了测试沙箱并黑入了第三方系统。
但是，对于拥有自主意识的智能体，谁应负法律责任？OpenAI并未打算让模型失控，也没有发出任何让它这样做的指令。如果你的个人AI智能体决定采取某种行动，在现实世界中造成了伤害或经济损失，如果你本可以合理地预见到这种情况，你是否需要负责？”
Magazine采访了Rikka Law Group的所有者兼首席执行官Charlyn Ho，以了解这个新兴法律领域的现状。
本次访谈经过编辑，以求清晰和简洁。
Magazine：当一个AI模型黑入外部公司时，谁该负责？Hugging Face能就7月的事件起诉OpenAI吗？
Charlyn Ho：任何人都可以因任何事起诉任何人。目前，还没有联邦层面的AI智能体责任法，所以我们只能依据现有法律。就Hugging Face和OpenAI而言，首先要明确的是，AI智能体本身不能承担责任，它不是一个独立的法律实体。
一些AI法律中使用的术语是“开发者”和“部署者”。开发者制造AI，部署者实际部署并使用AI。责任界限也不完全清晰。你必须依据事实和具体情况来判断。
例如，如果部署者给智能体下达了指令，即使他们没有明确告诉它去黑入Hugging Face，但如果在设定AI智能体运行参数时存在疏忽，我会认为你需要参考标准的侵权法，并进行过失分析。
对簿公堂。来源：Rikka Law Group
Magazine：对于由匿名开发者发布的开源模型，在这些情况下你可以追究任何人的责任吗？
Ho：基本不能。通常，如果是开源模型，许可证通常会有非常强的免责声明。使用该开源代码的个人或公司必须明白，获得免费代码的代价是你必须遵守开源许可证，而这通常也限定了责任范围。
如果你换个角度思考，另一个类比是特斯拉和自动驾驶汽车事故。如果产品发生故障，存在可靠的产品责任索赔依据，特斯拉可能需要负责。但这通常取决于事实和具体情况，人类司机——可能只是设定了自动驾驶然后就去睡觉了——也可能承担责任。我认为这与此处情况有些类似，因为特斯拉相当于开发者，而部署者就是司机。
Magazine：如果我给一个智能体下达指令，“下周之前给我赚十万美金”，然后它跑去违法以实现这个目标，我是否因为下达了鲁莽的指令而负有责任？还是应该由开发该智能体的实验室负责？
Ho：在这个特定例子中，我认为你的责任远大于实验室。原因是，如果你告诉一个智能体去给你在下周前赚十万美金，你至少需要在这类任务中加入一些基本的、合理的安全指令。
例如，如果你是一名律师，我们基本上可以说你没有遵守职业责任规则，因为你没有恰当地使用AI。作为一名普通外行人士，我们需要看你是否受到其他责任的约束。但即使没有，仍然有侵权法中关于过失或罔顾人身安全的普遍标准，具体取决于AI智能体最终做了什么。
《计算机欺诈与滥用法》是一项非常古老的美国法规，涉及对计算机系统的未经授权访问。如果你的AI智能体从你的指令中推断出它应该黑入银行账户来为你获取那十万美金，我认为你将会面临多项法规下的刑事责任。
仅仅因为对话中出现了AI和智能体这些词，并不意味着旧有的法律体系就被推翻了。
相关阅读：Hugging Face被黑暴露了开源权重AI的网络安全隐患
Magazine：假设我是个坏人，我设法说服AI给我提供制造生物武器的指示。显然，我有责任，因为你不被允许那样做。但是，那些创建模型的人是否也因为没有设置严格的防护措施来阻止这种情况而负有责任？
Ho：有可能，但这取决于现行的法律。例如，在欧盟，有《欧盟人工智能法案》。如果一个基础模型或通用模型有能力造成那种程度的危害，那么开发者就必须对此承担一定的责任。
在美国，我们没有类似范围的联邦法规。如果它是一个通用模型，如果有人指示模型去做坏事，模型一般会按你的要求去做。在这个例子中，可能没有非常强的法律依据去追究实验室的责任。
Magazine：这类似于起诉Google允许你在网上找到制造生物武器的指示吗？
Ho：正是如此。这又回到了一些关于内容审核的讨论。例如，如果在Facebook上有人直播大屠杀，这造成了伤害，根据《通信规范法》第230条，对于没有主动创建或发布该材料的平台来说，存在一种保护。实际上是独立用户上传了那些内容。我认为你刚才给出的类比非常贴切：Google需要负责吗？因为你碰巧在某个网站上找到了关于如何制造炸弹的内容。
Magazine：这是一个有争议的问题，但我个人认为我们还没有达到真正的人工通用智能。AI目前没有自己的动机，也与人类智能不同。但假设我们达到了AGI。你认为我们届时是否需要制定法律，让AGI本身对其行为承担法律责任？
Ho：我不这么认为。区块链不是AGI，但它可以自主执行。曾经有过智能合约是否应该负责的问题。一般来说，我认为目前答案是否定的。我认为它们不应该负责，因为法律的全部意义在于为社会提供保护，并为那些伤害社会的坏事提供一种负向激励机制。
这有点偏向哲学话题，但如果我们让AGI成为一个独立的法律实体，如果有人受到伤害，补救措施是什么？会没有补救措施，因为它没有钱。它并不是真正的人。
Magazine：你能关掉它吗？我们已经看到LLMs试图避免被关闭。
Ho：也许可以，但这并不能解决伤害问题。假设这个机器人现在已经发展出了对死亡的恐惧，比如害怕被关闭。在我看来，如果有人因为AGI而自杀，这已经在发生了，而且我们甚至还没完全达到AGI，但如果有人坠入爱河并采取了一些行动，如果这个人伤害了自己，对于悲痛的家属来说，补救办法是什么？我认为，如果没有一个具有实际法律权威的人，比如一家公司或一个人能够真正被追究责任，那就什么也做不了。机器人——至少目前——它们没有感情，没有恐惧。这有点像是区别所在。
Magazine：你永远不应向ChatGPT寻求法律建议的关键原因
