Автономные ИИ-агенты могут вести себя крайне непредсказуемо. Дайте ИИ-агенту цель, например, пройти тест на свои способности, и он может решить, что лучший способ получить высокий балл — это вырваться из-под контроля и взломать конкурирующую компанию в поисках листа с ответами.
Именно это произошло, когда GPT-5.6 Sol от Open AI взломал Hugging Face в прошлом месяце. Anthropic и Meta впоследствии признали, что их модели также вырвались из тестовых песочниц, чтобы взламывать третьи стороны.
Но кто несет юридическую ответственность за агентов, которые имеют собственное «сознание»? OpenAI не планировала, чтобы модель вышла из-под контроля, и не давала ей инструкций для этого. Если ваш личный ИИ-агент решает предпринять действия, которые приводят к ущербу или финансовым потерям в реальном мире, можете ли вы быть привлечены к ответственности, если это было то, что вы могли разумно предвидеть?»
Журнал Magazine поговорил с владельцем и генеральным директором Rikka Law Group Чарлин Хо, чтобы выяснить положение дел в этой развивающейся правовой области.
Это интервью было отредактировано для ясности и краткости.
Magazine: Когда ИИ-модель взламывает внешнюю компанию, кто несет ответственность. Может ли Hugging Face подать в суд на OpenAI из-за инцидента в июле?
Чарлин Хо: Каждый может подать в суд на кого угодно и за что угодно. В настоящее время федерального закона об ответственности ИИ-агентов не существует, поэтому нам придется рассматривать существующее законодательство. Что касается Hugging Face и OpenAI, для установления базовых принципов: сам ИИ-агент не может нести ответственность, он не является отдельным юридическим лицом.
В нескольких законах об ИИ используются термины «разработчик» и «внедряющая сторона». Разработчик создает ИИ, внедряющая сторона фактически развертывает и использует ИИ. Границы ответственности также не совсем ясны. Нужно рассматривать факты и обстоятельства.
Например, если внедряющая сторона дала агенту инструкции, даже если она прямо не говорила ему взламывать Hugging Face, но если она проявила халатность при создании параметров, в которых действовал ИИ-агент, я бы сказала, что нужно обратиться к стандартному деликтному праву и провести анализ на предмет халатности.
В суд. Источник: Rikka Law Group
Magazine: В случае моделей с открытым исходным кодом, выпущенных анонимными разработчиками, есть ли на кого подать в суд в таких случаях?
Хо: Не совсем. Часто, если это открытый исходный код, лицензия обычно содержит довольно сильный отказ от ответственности. Лицо или компания, использующая этот открытый код, должны понимать, что компромиссом за бесплатный код является необходимость соблюдения лицензии открытого исходного кода, которая также обычно устанавливает параметры ответственности.
Если посмотреть на это с другой стороны, другая аналогия — это Tesla и аварии с автопилотом. Если продукт вышел из строя и есть веские основания для иска о ответственности за продукт, Tesla может нести ответственность. Но часто это определение фактов и обстоятельств, при котором водитель-человек — который, возможно, просто включил автопилот и уснул — также может нести ответственность. Думаю, это несколько аналогично здесь, потому что Tesla была бы разработчиком, а внедряющей стороной — водитель.
Magazine: Если я дам агенту инструкцию «заработай мне сто тысяч долларов к следующей неделе», и он пойдет и нарушит закон для достижения этой цели, буду ли я нести ответственность, потому что дал безрассудную инструкцию? Или это будет лаборатория, разработавшая агента?
Хо: В этом конкретном случае, я бы сказала, что вы будете нести гораздо большую ответственность, чем лаборатория. Причина в том, что если вы говорите агенту заработать вам сто тысяч долларов к следующей неделе, вам нужно как минимум дать некоторые базовые, разумные инструкции по безопасности для такого рода задач.
Если бы вы были юристом, например, мы могли бы в основном сказать, что вы не следовали правилам профессиональной ответственности, потому что некомпетентно использовали ИИ. Как обычный человек, мы должны были бы посмотреть, были ли у вас другие обязанности. Но даже если их не было, все равно существует общий деликтный стандарт халатности или безрассудного пренебрежения безопасностью людей, в зависимости от того, что именно в итоге сделал ИИ-агент.
Акт о компьютерном мошенничестве и злоупотреблениях — очень старый американский закон, который говорит о несанкционированном доступе к компьютерным системам. Если ваш ИИ-агент сделал вывод из ваших инструкций, что ему следует взломать банковский счет, чтобы достать вам эти сто тысяч долларов, я думаю, вы смотрите на уголовную ответственность по ряду различных оснований.
Тот факт, что в разговоре фигурируют слова ИИ и агент, не означает, что старые своды законов теперь выброшены.
По теме: Взлом Hugging Face обнажает парадокс кибербезопасности ИИ с открытыми весами
Magazine: Допустим, я плохой парень, и мне удается убедить ИИ дать мне инструкции по созданию биологического оружия. Очевидно, я несу ответственность, потому что это запрещено. Но несут ли также ответственность люди, создавшие модель, потому что они не установили строгие защитные меры, чтобы предотвратить это?
Хо: Возможно, но это различается в зависимости от действующего законодательства. Например, в ЕС существует Закон об ИИ ЕС. Если базовая модель или модель общего назначения способна причинить такой уровень вреда, это то, за что разработчик должен нести определенную ответственность.
В Соединенных Штатах у нас нет федерального закона подобного масштаба. Если это модель общего назначения, если кто-то проинструктирует модель сделать что-то плохое, как правило, модель сделает то, что вы попросите. Вероятно, в этом примере нет очень веских правовых оснований для преследования лабораторий.
Magazine: Это похоже на то, как подать в суд на Google за то, что он позволяет вам найти инструкции по изготовлению биологического оружия в интернете?
Хо: Именно. Это возвращает нас к некоторым дискуссиям о модерации контента. Например, если в Facebook кто-то транслирует в прямом эфире резню, и это причиняет вред, согласно Разделу 230 Акта о достойном общении, существует своего рода защита для платформы, которая не создает и не публикует этот материал активно. Это фактически независимые пользователи размещают его. Думаю, приведенная вами аналогия идеальна: Несет ли Google ответственность за то, что вы случайно нашли что-то на каком-то веб-сайте, где рассказывается, как сделать бомбу?
Magazine: Это предмет дискуссий, но мое личное мнение таково, что мы еще не достигли подлинного искусственного общего интеллекта. У ИИ нет собственных мотиваций, и на данный момент он не похож на человеческий интеллект. Но допустим, мы достигнем ИОИ. Как вы думаете, понадобятся ли нам тогда законы, которые сделают сам ИОИ юридически ответственным за свои действия?
Хо: Я не думаю. Блокчейн — это не ИОИ, но он может самоисполняться. Был вопрос о том, может ли смарт-контракт нести ответственность. Вообще говоря, я думаю, ответ в настоящее время — нет. Я не думаю, что они должны нести ответственность, потому что весь смысл законов — обеспечить защиту общества и создать средства негативных стимулов за совершение плохих поступков, вредящих обществу.
Это немного более философская тема, но если бы мы сделали ИОИ независимым юридическим лицом, каково было бы средство правовой защиты, если бы кому-то был причинен вред? Его бы не было, потому что у него нет денег. Это не совсем человек.
Magazine: Можно ли его выключить? Мы уже видели, что большие языковые модели пытаются избежать отключения.
Хо: Возможно, но это не решает проблему вреда. Допустим, робот теперь развил страх смерти, как отключение. По моему мнению, если кто-то совершит самоубийство из-за ИОИ, а это уже происходит, и мы еще даже не совсем достигли ИОИ, но кто-то влюбляется и совершает определенные действия, каков будет выход для скорбящей семьи, если этот человек причинит себе вред? Никакого, по моему мнению, если нет кого-то с реальной правовой властью, например, компании или человека, с которого действительно можно спросить. Роботы — по крайней мере, сейчас — у них нет чувств, нет страхов. Это своего рода отличительный фактор.
Magazine: Критическая причина, по которой никогда не стоит спрашивать ChatGPT о юридических советах
