Автор | Jǐn Duàn
В прошлую пятницу одно письмо отключило двух самых мощных ИИ в мире. Распоряжение Министерства торговли США о контроле за экспортом: запретить любому иностранному гражданину доступ к моделям Fable 5 и Mythos 5 от Anthropic. Поскольку невозможно было в реальном времени определить гражданство пользователей, Anthropic сделали единственное, что могли: отключили эти две модели, выпущенные всего три дня назад, для всех пользователей во всем мире.
Впервые в истории интеллектуальный агент, существующий в битовой форме, был включен в ту же систему экспортного контроля, что и обогащенный уран.
Сценарий с обогащенным ураном повторяется
Контроль за экспортом в истории применялся только к двум категориям вещей: аппаратному обеспечению и рецептам. Как мы знаем, центрифуги для обогащения урана, высокотехнологичные литографические машины, алгоритмы шифрования военного уровня и т.д.
Их общая черта — физическая ограниченность. Не дают вам оборудование, не дают чертежи — вы не сможете это произвести. Контроль эффективен, потому что контролируемые объекты имеют физические границы, их можно перехватить на таможне, проследить в цепочке поставок.
Но Fable 5 — это набор параметров (весов). Его можно копировать бесконечно, он не проходит через таможню, не требует контейнеров, не существует физического действия «контрабанды». Теоретически, он может быть активирован на любом сервере в мире. Министерство торговли США обнаружило, что все традиционные инструменты неэффективны, оно не может остановить Fable 5 на границе, оно может только отключить его в источнике.
Реальным объектом контроля является «плотность возможностей», сконцентрированная в этом наборе параметров: способность генерировать код, способность к рассуждению и планированию, способность вызывать знания из различных областей. Когда эти возможности были рассеяны в мозгах бесчисленных инженеров, они никогда не вызывали контроля. Но когда они сжаты в одну модель, когда один человек может вызвать все эти возможности одной промпт-фразой, само сжатие становится угрозой.
Это точное отражение логики обогащенного урана в цифровом мире.
Урановая руда распространена в земной коре, ее никогда не контролировали; но когда ее обогащают до определенного уровня, она становится самым тщательно отслеживаемым веществом на планете. С моделями аналогично: когда отдельные возможности разбросаны по открытым репозиториям кода, техническим вопросам-ответам и научным статьям, они свободны. Когда все эти возможности «концентрируются» в единый интерфейс, доступный из одной точки, они пересекают этот порог, а цена за его пересечение — быть отключенными.
История обогащенного урана дает зеркало для понимания этого.
В 1938 году Ган и Штрассман в Берлине открыли ядерное деление. В последующие десять лет уран превратился из малоизвестного лабораторного элемента в самый чувствительный стратегический ресурс на Земле. В 1946 году США приняли «Закон об атомной энергии», включив все ядерные технологии, материалы и знания под правительственный контроль. Частный капитал был изгнан из сферы ядерной энергетики, международные контакты ученых были прерваны, даже базовые физические данные были засекречены. Чисто природный элемент с тех пор оказался в политических оковах.
Восемьдесят лет назад этот контроль был основан на холодной логике: некоторые силы слишком могущественны, чтобы позволить им оказаться в руках любого субъекта, конечной целью которого не являются национальные интересы. Восемьдесят лет спустя та же логика может быть снова активирована, нацелившись уже не на деление атомного ядра, а на прямое распространение в нейронных сетях.
В ближайшие десять лет произойдут три вещи
Контроль за обогащенным ураном в 1950-х годах породил совершенно новую структуру международного управления: Международное агентство по атомной энергии, Договор о нераспространении ядерного оружия, Группу ядерных поставщиков. Как только устанавливается контроль над технологией, он необратимо движется к институционализации, многосторонности, постоянству.
ИИ не станет исключением. В ближайшие десять лет, скорее всего, произойдут три вещи.
1. Проверка возможностей станет институционализированной.
Каждая новая передовая модель перед выпуском будет проходить не только тестирование на безопасность «красными командами», но и проверку на соответствие нормам уполномоченными государством сторонними организациями. Стандарты проверки не будут исходить от самой компании.
Оценка возможностей модели превратится из «бенчмаркинга» в «список». Каждая потенциально злоупотребляемая возможность из списка будет вызывать дополнительные требования контроля. «Обогащенность» модели — объем параметров, глубина рассуждений, способность к обобщению в различных областях — будет измеряться и устанавливаться с порогом так же точно, как и концентрация урана-235. Модели, превышающие определенный порог, автоматически активируют положения об экспортном контроле.
2. Границы юрисдикции станут размытыми.
Приказ относительно Fable 5 касается «иностранных граждан», независимо от их местонахождения. Контролирующие щупальца правительства США впервые протянулись к каждому пользователю в мире.
Разработчик в Сингапуре, использующий API американской компании, подпадает под действие закона США об экспортном контроле. Предприятие в Берлине: обязательства его поставщика ИИ по соблюдению нормативных требований зависят не от немецкого законодательства, а от приказа Министерства торговли США.
Такое одностороннее расширение юрисдикции заставит неамериканские компании переосмыслить свои цепочки поставок ИИ: ваш американский поставщик, на которого вы полагаетесь, может однажды получить от правительства США требование отключить вам доступ. Событие с Fable 5 дает четкий ответ: да, может.
3. Технологические пути пойдут по пути раскола.
Когда закрытым передовым моделям грозит постоянный риск отключения, глобальная индустрия ИИ будет вынуждена пойти по пути двух систем.
Одна система — закрытые передовые модели США, подчиненные экспортному контролю, каждый выпуск которых сопровождается риском снятия с доступа. Другая система — открытые модели, модели для локального развертывания, модели, находящиеся под юрисдикцией неамериканских государств. Они могут быть менее продвинутыми, чем первые, но на них не распространяется угроза отключения со стороны правительства США.
Доля открытых моделей на рынке будет определяться не только производительностью, но и свойством безопасности «не быть отключенными». За последние три года открытые модели постоянно догоняли закрытые по возможностям; в ближайшие десять лет открытые модели могут получить структурное преимущество перед закрытыми в измерении «надежности».
Самая глубокая трещина — в системе прав собственности
Все вышеприведенные прогнозы основаны на фундаментальном вопросе, на который еще нет ответа. Событие с Fable 5 выявило самый глубокий кризис: цифровая цивилизация до сих пор не создала института прав собственности на «интеллект».
Юридически модель продается как услуга. Вы платите, я использую свои активы, чтобы сделать что-то для вас. Мои активы всегда остаются моими, вы покупаете только их результат. Эта логика работала в традиционной сфере услуг тысячу лет без проблем.
Но ИИ — другое дело. Когда ваша компания потратила три месяца на тонкую настройку всех внутренних инструментов под специфические поведенческие паттерны Fable 5, обучила сотрудников, написала сотни скриптов автоматизации, зависящих от конкретного формата вывода этой модели, вы фактически превратили Fable 5 в ваше средство производства.
Но юридически это все еще услуга Anthropic. Ее можно отозвать в любой день, а компенсация, которую вы получите, не превысит той абонентской платы, которую вы заплатили за последний месяц.
Вы вложили реальные затраты в средства производства, а получили правовую защиту на уровне услуги. Разрыв между ними — это убытки, которые понесли все корпоративные клиенты в мире при снятии Fable 5. Эти убытки не фигурируют ни в одном балансовом отчете, не вызывают никаких страховых выплат, никакие правовые нормы их не покрывают.
Человечество потратило триста лет на создание правовой системы, касающейся «собственности». Участок земли, фабрика, патент имеют четкие правила принадлежности, передачи и разрешения споров. Но у этой системы есть одно негласное допущение: собственность материальна или, по крайней мере, имеет отслеживаемый носитель.
Модель отключили — и вы ничего не можете сделать. Ее не украли, не уничтожили. Она все еще существует, просто вам не дают ею пользоваться. Это новая форма лишения: лишают не вещь, а право пользования. А право пользования юридически вам никогда не принадлежало.
Обогащенный уран контролируется восемьдесят лет и до сих пор остается самым чувствительным технологическим активом человечества. Контроль над ИИ только начинается, и его конечная точка может стать навсегда расколотым цифровым миром. В этом мире самая умная модель не обязательно будет пригодной к использованию. Пригодная к использованию модель — это обязательно модель с самыми четкими правами собственности. Быть незабираемым в определенные исторические моменты становится гораздо важнее, чем временное лидерство.
