Автор: Zack Whittaker
Компиляция: Deep Tide TechFlow
Введение Deep Tide: В прошлую пятницу письмо от Министерства торговли США вынудило Anthropic полностью отключить две свои самые мощные модели Fable 5 и Mythos 5. Власти назвали причиной национальную безопасность, внешний мир предположил, что речь идет о преодолении защитных барьеров моделей. Но все больше деталей указывает на другое объяснение: это больше похоже на возмездие после разрыва отношений между администрацией Трампа и Anthropic. Сигнал для всей технологической индустрии США — когда правительство одной бумагой, без одобрения суда, заставляет технологическую компанию закрыть продукт.
То письмо о правоприменении, которое правительство США отправило Anthropic, заставило компанию отключить все свои последние модели ИИ накануне выходных. Любая американская технологическая компания должна воспринять это как предупреждение, и не только лаборатории ИИ.
Давайте сначала восстановим хронологию событий последних дней. В пятницу днем Министерство торговли США отправило Anthropic письмо, ссылаясь на малоизвестное правило экспортного контроля, запрещающее неамериканцам (включая сотрудников самой Anthropic) доступ к Fable 5 и Mythos 5, по некой неопределенной причине, связанной с национальной безопасностью. Anthropic заявила, что предположила связь письма с обходом защитных барьеров модели, но не была уверена, поскольку в письме не было конкретных деталей. Письмо до сих пор не обнародовано.
В ответ Anthropic отключила обе свои топовые модели для всех клиентов, чтобы обеспечить соответствие требованиям. Результат: правительство США быстрым, односторонним действием, не требующим, судя по всему, одобрения суда, успешно заставило технологическую компанию снять свои модели.
Это вмешательство администрации Трампа показывает, что индустрия ИИ не обладает иммунитетом перед правительством. Для более широкой технологической отрасли это также предупреждение: либо подчиняйтесь, либо мы можем закрыть и вас, и ваш продукт.
Axios со ссылкой на источники описывает напряженную ситуацию между двумя крупными игроками на выходных, заявляя, что настоящей причиной экспортного запрета стала «несовместимость характеров» между Anthropic и администрацией Трампа, а не какие-либо технические проблемы самого продукта ИИ.
Новые детали, всплывшие на выходных, еще больше поколебали и без того шаткие доводы правительства.
Ветеран кибербезопасности, исследователь, основатель Luta Security Кэти Мусурис в своем блоге рассказала, что Anthropic недавно показала ей приватный доклад, написанный несколькими исследователями безопасности, в котором описывался так называемый обход защитных барьеров в Fable 5. (The Wall Street Journal сообщает, что авторами доклада были исследователи безопасности Amazon.) Мусурис сказала, что Anthropic обратилась к ней за мнением об этом докладе.
В блоге Мусурис рассказала, как исследователи спровоцировали этот обход, но она утверждает, что сам по себе обход «никак не должен был вызвать экспортный контроль». Разница на самом деле невелика: немного разная формулировка при запросе к ИИ «проверить код на проблемы безопасности» и «исправить этот код», приводит в основном к одному и тому же результату.
«Такое поведение, описанное в докладе, невозможно по-настоящему исправить, любые попытки лишь ослабят защитные способности модели», — сказала Мусурис. Она критиковала приказ об экспортном контроле как поспешный, грубый и ошибочный.
Впоследствии Мусурис вместе с десятками ведущих исследователей безопасности и экспертов призвали администрацию Трампа отменить этот приказ об экспортном контроле, заявив, что лишение американских защитников киберпространства передовых возможностей кибербезопасности является «опасным».
Предыдущие администрации также принимали упрощенные решения в областях, где не хватало понимания. Например, в 2010-х годах правительство США, пересматривая экспортное законодательство, пытаясь контролировать инструменты кибербезопасности, которые можно использовать как для защиты, так и для атак, использовало настолько широкие формулировки, что ненароком чуть не объявило незаконными легитимные исследования безопасности и уязвимостей.
Но приказ администрации Трампа выглядит как возмездие.
Редактор Tech Policy Press Джастин Хендрикс заявил, что этот шаг администрации Трампа «вероятно, заставит иностранные правительства усомниться в надежности американского ИИ, используемого в критически важных сценариях». Посылаемый сигнал таков: американские компании ИИ не могут работать без вмешательства правительства США.
Администрация Трампа не подтвердила, почему она использовала этот приказ об экспортном контроле. Чиновники неправильно поняли тот доклад и запаниковали? Генеральный директор Amazon Энди Джесси из осторожности или личной неприязни что-то сказал высокопоставленным лицам в правительстве, спровоцировав эту реакцию? Возникло ли недопонимание при передаче информации, или это само по себе было средством давления на Anthropic — учитывая, что их отношения и так были натянутыми? Также возможно, что Белый дом просто не осознавал, какие масштабные последствия повлечет требование этого письма, и чиновники теперь лихорадочно пытаются исправить собственную ошибку.
Словами Хендрикса, «атмосфера сейчас пропитана подозрениями, и высокопоставленные чиновники, кажется, выбирают фаворитов, основываясь на личных и политических факторах». Последствием стало опасное прецедентное решение правительства о том, «насколько большой контроль оно собирается установить над выпуском программного обеспечения американского производства».
На этот раз целью правительства стала Anthropic, завтра это может быть любая другая компания.
