Эпоха массовой дистилляции подходит к концу!
Второго сентября компания Anthropic нанесла сокрушительный удар, изменив правила API и полностью перекрыв путь для компаний-«скорлуп» и специалистов по дистилляции.
Раньше множество компаний, чтобы сэкономить огромные вычислительные затраты и длительное время обучения, выбирали метод «обдирания» процесса логических рассуждений ведущих топовых моделей через API, а затем использовали эти данные для обучения своих «маленьких моделей».
Но теперь эта возможность перестала существовать.
Claude Fable 5.1 блокирует изменение «блоков мышления»
Anthropic в новой версии Fable 5.1 внедрила самый строгий в истории механизм предотвращения дистилляции.
Основное действие — полная блокировка «блоков мышления».
Что такое «блоки мышления»?
Проще говоря, это процесс CoT (рассуждений по цепочке мыслей), который происходит в «мозгу» ИИ перед тем, как дать окончательный ответ.
Сложные и параллельные пути мышления Claude при выполнении устного счёта
При вызове API Claude возвращает пользователю эти шаги рассуждений в виде «блоков мышления».
В нормальном многоуровневом диалоге разработчики отправляют эти блоки мышления вместе с системными инструкциями, инструментами и историей сообщений обратно Claude, чтобы модель запомнила контекст и поддерживала связность разговора.
Но именно этот механизм стал возможностью для специалистов по дистилляции.
Они обнаружили огромную уязвимость: просто тайно изменяя контекст до и после блоков мышления в многоуровневом диалоге (например, изменяя ранние системные инструкции или историю сообщений), можно обойти защитные механизмы Claude и даже заставить его раскрыть изначально скрытую базовую логику рассуждений!
В ответ на этот хаос Anthropic в Fable 5.1 безжалостно внедрила новое правило «проверки консистенции контекста».
1. Возвращение тем же путём, слово в слово: API теперь будет строго проверять, полностью ли соответствуют «блоки мышления», возвращённые клиентом, тем системным инструкциям, инструментам и истории сообщений, в рамках которых они были созданы.
2. Подменили что-то? Сразу ошибка! Если система обнаружит, что контекст был изменён, даже если совсем немного, произойдёт несовпадение, и API сразу же вернёт сообщение об ошибке, отказав в обслуживании.
Более того, чтобы учесть потребности законных разработчиков, которым действительно нужно изменять контекст (например, для экономии денег путём сжатия длины контекста), Anthropic предоставляет «нестрогий режим».
В этом режиме ваш запрос может быть принят, однако система сразу удалит все «блоки мышления»! Модель будет вынуждена отвечать, совершенно не видя предыдущего процесса рассуждений.
Этот шаг можно назвать радикальной мерой.
Примеры верных рассуждений и мотивированных (неверных) рассуждений, когда Claude задают относительно простой и относительно сложный вопросы
Насколько безумной стала промышленная дистилляция?
Неужели Anthropic нужно так сердиться и вводить такие строгие ограничения?
Ответ: Да, необходимо, и крайне необходимо.
Потому что незаконная дистилляция уже превратилась в явление промышленного масштаба.
За последний год команда безопасности Anthropic наблюдала пугающие явления злоупотреблений.
Эти профессиональные «хакеры-дистилляторы» не задают несколько вопросов в день с одного аккаунта, а используют тысячи поддельных аккаунтов и автоматизированные скрипты, круглосуточно «доят» API.
Их методы работы крайне скрытны и агрессивны.
Как упоминалось выше, хотя Anthropic давно зашифровала основные блоки мышления Claude, хакеры используют технологии «инъекции контекста» и «переписывания диалога».
Это похоже на «гипноз» Claude, заставляя его в состоянии логического сбоя самостоятельно расшифровать и выдать свой зашифрованный процесс рассуждений.
Поэтому многие модели с небольшим количеством параметров не прошли через вычислительные затраты и алгоритмические инновации с нуля, а просто запомнили подход к ответам топовых ИИ, достигнув сопоставимой производительности.
Что ещё страшнее, такой подход напрямую затрагивает красные линии, приводя к краху системы безопасности.
Самая большая угроза выхода ИИ из-под контроля
Если потери коммерческой прибыли лишь «болезненно» ударили по Anthropic, то «разрыв способностей и безопасности» заставляет чувствовать страх всё сообщество безопасности ИИ.
Это и есть основная причина, по которой Anthropic решила нанести решительный удар.
Как известно, такие большие модели, как Claude и GPT-4, обладая чрезвычайно высоким интеллектом, одновременно проходят чрезвычайно строгую «выравнивание ценностей» и обучение безопасности. Они знают, что нельзя учить людей изготавливать бомбы, писать вредоносное шпионское ПО или выражать ненависть.
Эта двойная связь «способности + защитные барьеры безопасности» была создана крупными компаниями ИИ, потратившими десятки миллионов долларов на RLHF и красные/синие команды.
Но модели, полученные дистилляцией, идеально обходят эту защитную сеть!
Когда специалисты по дистилляции путём изменения контекста насильно извлекают «блоки мышления» Claude, они извлекают только ту часть «способности рассуждать» с высоким интеллектом, но никак не могут унаследовать базовые гарантии безопасности.
Это как злая организация клонировала интеллект Эйнштейна, но не клонировала его мораль и эмпатию.
Системы, обученные таким незаконным методом дистилляции, таинственным образом наследуют продвинутую логику и способность писать код, которыми они изначально не должны были обладать.
Но поскольку они сами являются базовыми моделями с «низкими гарантиями и слабыми барьерами», они без колебаний выполнят запрос хакера на генерацию скриптов для сетевых атак или содействие в разработке биологического оружия.
«Разрыв между способностями и безопасностью — это самый большой риск для ИИ сегодня».
Вступление в силу новых правил: кого это затронет?
Затронет ли этот удар добросовестных разработчиков?
Не бойтесь, Anthropic приняла точную стратегию «поэтапного внедрения», стремясь свести к минимуму случайный ущерб.
Первыми под удар попали «новые аккаунты».
Согласно официальным документам, эти ограничения в первую очередь коснулись новых аккаунтов, где злоупотребления были наиболее сконцентрированы. Для модели Fable 5.1 это обновление применяется только к новым API-аккаунтам, созданным после 31 августа 2026 года, 12:00:00 по UTC.
Следующие категории могут быть полностью спокойны, на них это не повлияет.
1. Существующие API-аккаунты: Существующие старые аккаунты временно не затронуты в Fable 5.1. Это даёт законным разработчикам достаточно времени для адаптации.
2>Пользователи-потребители: Если вы просто используете веб-версию Claude.ai, или являетесь пользователем официальных продуктов для конечных потребителей, таких как Claude Code, Claude Cowork, или общаетесь через сторонние продукты-«скорлупы», вы не столкнётесь ни с какими помехами.
На что нужно обратить внимание затронутым API-разработчикам?
Если в ваших предыдущих интеграциях приложений как раз использовалась технология «переписывания ранних раундов в середине диалога» (например, сжатие контекста для экономии денег или насильственная инъекция новых системных напоминаний в середине диалога), вам нужно немедленно начать корректировать логику вашего кода.
Для реагирования на это изменение Anthropic предоставляет подробное руководство по миграции. У разработчиков есть два варианта.
Вариант 1: Поддерживать абсолютную согласованность контекста. Передавать обратно исходные блоки мышления, системные инструкции и инструменты слово в слово.
Вариант 2: Выбрать в API-запросе «нестрогий режим». В этом режиме, даже если вы измените контекст, API не выдаст ошибку и не прервёт работу, а автоматически и без уведомления удалит затронутые блоки мышления из запроса.
Хотя это заставит модель в последующем диалоге «забыть» предыдущий конкретный процесс рассуждений, по крайней мере, это гарантирует, что ваш диалог или задача не будут прерваны.
Стоит напомнить: хотя в настоящее время существует льготный период для этого правила, Anthropic уже чётко заявила — механизм «сохранения мышления» в будущих версиях моделей будет применяться ко всем аккаунтам!
Существующее окно временной защиты также ограничено.
Неожиданный бонус: на пользу честным людям
Более того, после этих новых правил скрывается и выгода для законных разработчиков — значительное снижение затрат и скачок скорости отклика.
Как это достигается?
Ключ — в «согласованности контекста».
Раньше, поскольку разработчики могли произвольно изменять контекст, модель каждый раз получала «совершенно новый» запрос. Это не только тратило вычислительные ресурсы, но и было очень медленно.
Теперь новые правила вынуждают всех поддерживать полную согласованность «блоков мышления» и окружающих их системных инструкций, истории сообщений, без каких-либо изменений.
Это в техническом плане создаёт идеальное условие: кэширование промптов может достигать чрезвычайно высокой частоты попаданий!
Теперь API-сервер может легко кэшировать предыдущий контекст диалога. Когда поступит запрос на следующий раунд диалога, система мгновенно извлечёт данные из кэша и завершит сопоставление.
Результат: время отклика API значительно сокращается, задержки резко снижаются, а стоимость вызовов API для разработчиков также существенно уменьшается!
Этот шаг «случайного благотворного эффекта» можно назвать реальной денежной поддержкой для честных разработчиков.
В общем, эти новые правила, несомненно, являются водоразделом для всей индустрии ИИ.
Историй о том, как малые параметры побеждают большие модели, возможно, станет намного меньше.
Когда отлив уйдёт, кто окажется голым?
Источники:
https://support.claude.com/zh-CN/articles/16761192-%E4%BF%9D%E7%95%99%E6%80%9D%E8%80%83-%E6%94%B9%E5%8F%98messages-api%E5%A4%84%E7%90%86%E6%80%9D%E8%80%83%E5%9D%97%E7%9A%84%E6%96%B9%E5%BC%8F%E4%BB%A5%E9%98%B2%E6%AD%A2%E8%92%B8%E9%A6%8F
Редактор: Aeneas
Эта статья из официального аккаунта WeChat «Новая эра искусственного интеллекта» (ID: AI_era), автор: Откровения ASI
