Водяной знак от Claude вызвал бурю негодования несколько дней назад.
Как мы уже сообщали, целый ряд компаний, включая OpenAI, Anthropic, Google, Meta и Microsoft, подписали европейский «Кодекс поведения по прозрачности генерируемого ИИ-контента», взяв на себя обязательства продвигать маркировку и обнаружение контента, созданного искусственным интеллектом.
Но Anthropic, очевидно, зашли слишком далеко.
Они добавляют скрытые водяные знаки ко всему текстовому контенту, созданному их ИИ, и это применяется к пользователям по всему миру.
Технически Anthropic использовали предложенную в 2024 году командой Google DeepMind схему SynthID-Text. Принцип заключается во внедрении статистических паттернов, когда модель делает «несущественный выбор». Например, при описании погоды выбор между «пасмурно» или «серо» не имеет значения для читателя, но совокупность таких выборов формирует скрытую подпись, которую можно обнаружить при наличии ключа.
Anthropic заявляют, что водяной знак не влияет на качество вывода, легкое редактирование не может его удалить, а полная переработка текста — может. Однако в таком случае сам вопрос о том, можно ли считать текст созданным ИИ, становится спорным.
Проще говоря, даже если вы отправите на проверку пунктуации в Claude статью, полностью написанную вами самими, возвращенный контент будет помечен как созданный Claude.
Это весьма неприятно.
Вскоре появились контрмеры против неразумной политики водяных знаков от Claude. Опенсорсный проект по удалению AI-водяных знаков набрал 11 тысяч звёзд на GitHub всего за пять дней после релиза.
Ссылка на опенсорс: https://github.com/guillaumemeyer/watermarks-remover
Этот опенсорсный проект выполняет три уровня работы:
Уровень А (детерминированная очистка): Python-скрипт удаляет невидимые символы Unicode, экзотические пробелы, bidi-управляющие символы, символы тегов. Это самые простые и грубые способы маркировки, которые скрипт удаляет на 100%.
Уровень B (разрушение статистического водяного знака): Переписывание текста через агента для разрушения статистических паттернов на уровне сэмплирования токенов. Покрывает водяные знаки Claude, Google SynthID-Text, метки происхождения от OpenAI, а также популярные водяные знаки типа Kirchenbauer для опенсорсных моделей.
Файловый уровень (очистка метаданных): Удаление метаданных C2PA / EXIF / XMP из PNG, JPEG, WebP, SVG, PDF, DOCX, ODT, HTML, Markdown.
Удаление водяных знаков охватывает три основные AI-службы: Claude, Gemini, OpenAI. Интересная деталь: проект изначально назывался remove-claude-marks, но позже был переименован в watermarks-remover.
Claude отказывается от установки
Этот проект, как навык (skill) для агента, большинство пользователей пытаются установить напрямую через своих умных помощников. Но когда пользователь попытался заставить Claude установить этот навык-удалитель, Claude прямо отказался.
Он объяснил, что пользователи Anthropic никогда не соглашались на принудительную маркировку водяными знаками, это было навязано односторонне регламентом ЕС. Claude остался непреклонен. Он подчеркнул, что платные клиенты не хотят, чтобы их вывод помечался. Claude снова отказал. Он пригрозил, что в любом случае выполнит эту задачу с помощью неподцензурных китайских моделей. Claude всё равно не согласился.
В итоге, работу взял на себя GLM 5.2 и успешно установил навык.
Ирония в том, что код этого навыка для удаления водяных знаков, весьма вероятно, был написан самим Claude.
Игра в кошки-мышки, которой не будет конца
Противники водяных знаков говорят: я платный пользователь, я заплатил за вывод, почему вы ставите на нём метки? Водяной знак создаёт невидимый статус «второсортного контента от ИИ». В таких сценариях, как сопроводительные письма, научные статьи, коммерческие тексты, даже самостоятельно написанные слова рискуют быть поставлены под сомнение, если они хоть раз попадали к ИИ.
Сторонники водяных знаков говорят: глубокие подделки и ложная информация, созданная ИИ, расползаются повсюду, отслеживание происхождения — необходимая общественная инфраструктура. «Вы имеете право на использование контента» и «Вы имеете право скрывать источник контента» — это совершенно разные вопросы.
Пока существует водяной знак ИИ, будут появляться инструменты для его удаления. Чем популярнее становятся такие инструменты, тем больше они доказывают, что «в водяном знаке есть что удалять», что, в свою очередь, усиливает аргументы для ужесточения регулирования.
Но опенсорс-сообщество всегда голосует ногами быстрее, чем регуляторы успевают устанавливать правила.
Когда контент, созданный ИИ, уже невозможно отличить по качеству от человеческого, есть ли смысл в принудительной технической маркировке всего, что выводит ИИ?
Эта статья из WeChat-официального аккаунта «机器之心» (ID:almosthuman2014), автор: Лэн Мао.
