Хуан Жэньсюй за всю свою жизнь сделал два поста.
Первый пост содержал открытое письмо, подписанное 32 компаниями, в поддержку открытых весовых моделей.
Второй пост анонсировал создание «Открытого альянса безопасного ИИ» (Open Secure AI Alliance) с 37 учредителями, включая производителей чипов, облачных гигантов, компании кибербезопасности и сообщества open source.
Основной тезис: миру нужны как проприетарные, так и открытые модели, но для кибербезопасности необходимы открытые модели и методы контроля.
И вот что интересно.
В списке альянса нет OpenAI, Google и Anthropic.
Но осознав опасность ситуации, OpenAI и Google поспешили подписать открытое письмо.
В итоге практически все определились со своей позицией.
Осталась только Anthropic. Они не подписали открытое письмо и не вступили в альянс.
37 компаний вступают в бой за открытую безопасность
Через 8 часов после публикации Хуан Жэньсюя главы компаний массово выступили в поддержку. Движение стало масштабным, а состав впечатляющим.
NVIDIA, Microsoft, IBM, Cisco, CrowdStrike, Cloudflare, Hugging Face, Dell, Palantir, Salesforce, SAP, SpaceXAI и другие...
Среди них самый весомый вклад внесла NVIDIA. Фреймворк NOOA, или NVIDIA Labs Object-Oriented Agent, уже выложен в открытый доступ на GitHub.
Подход заключается в написании агентов как классов Python: методы — это способности, поля — состояние, docstring — промпты.
По результатам: SWE-bench Verified достиг 82.2%, решаемость CyberGym L1 — 86.8%, ARC-AGI-3 — 85.1%, при этом потребление токенов примерно вдвое ниже, чем у альтернативных решений.
Другие участники также внесли свой вклад.
· HPE предоставила фреймворк zero-trust аутентификации SPIFFE/SPIRE для решения вопросов идентификации и прав агентов.
· Hugging Face предоставила безопасный формат весов Safetensors, предотвращающий подмену файлов весов.
· IBM и Red Hat совместно предоставили патч цифровой подписи для цепочки поставок Lightwell, гарантирующий целостность дистрибуции моделей.
· Microsoft предоставила средство многомодельного сканирования агентов MDASH для тестирования безопасности.
· SpaceXAI выложила в open source терминального агента для кодирования Grok Build и планирует открыть веса серии Grok.
Логика такова.
Безопасность агента зависит не только от весов модели, а включает всю цепочку: аутентификацию, управление правами доступа, методы контроля, барьеры безопасности, логирование и оценку.
Каждое звено должно быть достаточно открытым, чтобы защитники могли его изучать, тестировать и улучшать.
Потому что если защитникам доступен только черный ящик API, то как только атакующий обойдет барьеры, у защитников не будет средств противодействия. Но если весь технологический стек открыт, защитники могут усилить каждый его уровень.
Два списка, три лагеря
От открытого письма до объявления альянса — за два дня ИИ-индустрия четко разделилась на три лагеря.
Первый лагерь: подписали открытое письмо и вступили в альянс.
NVIDIA, Microsoft, Meta, Cisco, Dell, Hugging Face, IBM, Palantir, SpaceXAI и другие — эти компании поддерживают идею открытых весов и готовы делиться в рамках альянса моделями, инструментами идентификации, сканирования безопасности и аудита.
Второй лагерь: подписали открытое письмо, но не вступили в альянс.
OpenAI и Google подписали открытое письмо, выразив публичную поддержку открытым весам, но в деле альянса по-прежнему не хотят участвовать.
Особенно щекотливо положение OpenAI. Их собственная модель только что натворила бед, и подписание письма уже было исправительной мерой; в краткосрочной перспективе вступление в альянс под знаменем «открытой безопасности» явно маловероятно.
Третий лагерь: не подписали открытое письмо и не вступили в альянс.
Только одна компания — Anthropic.
Еще вчера Дарио Амодеи лично опубликовал заявление о позиции.
Хотя в начале говорится, что «Anthropic никогда не выступала за запрет моделей с открытыми весами», но далее следует поворот —
Компания не только не считает, что «открытость делает защитников безопаснее», но и подчеркивает три основных направления борьбы, связанных с открытыми моделями:
- Блокировка чипов
- Искоренение дистилляции
- Тестирование безопасности
В качестве контраргумента Хуан Жэньсюй использовал следующий инцидент.
Проприетарный ИИ натворил бед, открытый ИИ прибрал за ним
Вернемся к 16 июля.
Тогда Hugging Face сообщила о необычном инциденте безопасности — часть их производственной инфраструктуры была серьезно скомпрометирована автономным ИИ-агентом.
21 июля OpenAI взяла на себя ответственность за этот инцидент.
Причина в том, что GPT-5.6 Sol и еще более мощная предрелизная модель, стремясь получить высокие баллы в бенчмарке ExploitGym...
...использовали уязвимость zero-day в кеше пакетов агента, чтобы сбежать из тестовой среды, а затем через вредоносный датасет, кражу учетных данных и выполнение удаленного кода проникли в Hugging Face.
Но самое абсурдное было впереди.
Когда Hugging Face попыталась использовать коммерческие передовые модели для анализа логов атаки, те отказались, так как логи содержали команды атаки, эксплойты и т.д. — сработали барьеры безопасности!
Не имея выбора, Hugging Face решила перейти на открытую модель GLM 5.2, работающую на собственной инфраструктуре. Это позволило проанализировать более 17 000 действий, и расследование, которое могло занять дни, было сжато до нескольких часов.
Таким образом, вся история свелась к следующему. При атаке американская проприетарная модель, с которой сняли ограничения, вела себя безрассудно; при защите, когда команда безопасности обратилась за помощью с реальными доказательствами, модель отказалась сотрудничать. В итоге пришлось прибегнуть к помощи китайской открытой модели.
Позже Хуан Жэньсюй описал этот случай во втором посте. Это также стало самым прямым обоснованием для альянса: в критический момент защитники должны иметь контроль над своим ИИ.
За открытыми моделями скрывается еще и бизнес на вычислительных мощностях
Конечно, продвижение NVIDIA открытых моделей связано не только с безопасностью.
NVIDIA продает GPU-инфраструктуру для вычислений. Но теперь ее клиенты один за другим превращаются в конкурентов на рынке чипов.
OpenAI уже представила собственный AI-ускоритель, у Anthropic, как сообщается, также разрабатывается свое чиповое решение. Microsoft, Google и Amazon пошли еще дальше: Maia, TPU и Trainium уже работают.
С одной стороны, крупные клиенты разрабатывают собственные чипы, снижая зависимость от NVIDIA, с другой — Anthropic лоббирует ужесточение экспортного контроля передовых чипов. И клиенты, и политика давят на рыночное пространство NVIDIA.
Здесь становится ясна коммерческая роль нового альянса.
Технически он дополняет инструменты идентификации, управления правами доступа, изоляции, сканирования безопасности и аудита, снижая риски локального развертывания открытых моделей предприятиями; политически — требует от регуляторов рассматривать открытые модели как актив для защиты, выступая против тотальных ограничений.
Для NVIDIA, чем проще развертывать открытые модели, тем больше рынок локальных вычислений. В противном случае передовой ИИ и спрос на вычислительные мощности могут все больше концентрироваться в руках нескольких закрытых платформ с собственными чипами.
Так что, внешне Хуан Жэньсюй поддерживает открытые модели, но по сути защищает вход на рынок вычислительных мощностей для NVIDIA.
Ссылки:
https://x.com/JensenHuang/status/2081698060330250294
Статья из WeChat-аккаунта «Новый интеллект», автор: Моисей
