Anthropic внедряет «водяные знаки» в тексты Claude: ответ на требования законодательства ЕС

Anthropic начала встраивать в тексты, создаваемые моделями Claude, невидимые для читателя водяные знаки (watermark — цифровая метка, скрытая внутри текста), а также добавлять к генерируемым файлам подписанные метаданные о происхождении (provenance metadata). Эта мера вводится не только в Евросоюзе, но и по всему миру. В компании подчёркивают: обнаружение метки означает, что Claude мог обработать этот контент, но не обязательно то, что именно Claude его написал.

Этот шаг связан с тем, что Anthropic присоединилась к кодексу практик по прозрачности контента, созданного ИИ, — в рамках статьи 50(2) Закона Евросоюза об искусственном интеллекте (EU AI Act). По данным Европейской комиссии, к концу июля к этому кодексу присоединились около 190 организаций, включая Google, Meta, Microsoft, Mistral и OpenAI, зарегистрированных в категории «провайдер» — то есть сторона, ответственная за машиночитаемую маркировку и её обнаружение. Любопытно, что OpenAI ещё в сентябре 2024 года отказалась от собственного плана внедрения водяных знаков после того, как опрос показал: почти 30% пользователей ChatGPT станут реже пользоваться сервисом, если в него добавят такую маркировку.

С технической точки зрения встроенная в текст метка никак не влияет на смысл, качество или читаемость ответа и сохраняется даже при копировании и вставке текста, поскольку внедряется на уровне модели. Создаваемые файлы форматов .svg, .png и .jpg содержат подписанные метаданные, соответствующие открытому стандарту C2PA, — они показывают, как был создан файл и вносились ли в него изменения впоследствии. При этом в Anthropic отмечают: даже простое редактирование, перевод, сокращение или изменение формата текста может оставить метку — даже если исходная идея и текст взяты из другого источника.

В статье 50 законодательства ЕС предусмотрено четыре исключения, два из которых касаются именно отредактированного текста: если система лишь помогает со стандартным редактированием и существенно не меняет смысл введённого текста, она освобождается от требования маркировки; также от требования раскрытия информации может быть освобождён текст, прошедший редакторский контроль и правку человеком. Это означает, что текст с меткой Claude может быть опубликован издателем без каких-либо обязательств по маркировке.

Технический директор компании по обнаружению ИИ-контента GPTZero Алекс Куи отмечает, что текстовые водяные знаки можно «сломать» с помощью интенсивного перефразирования (paraphrasing), и что бесплатные инструменты уже сумели обойти даже систему SynthID от Google DeepMind. Йонас Гайпинг из института ELLIS, изучающий водяные знаки, в свою очередь подчёркивает: перефразирование действительно способно удалить метку, но не любое перефразирование на это способно — чтобы полностью убрать метку из длинного документа, требуется существенно изменить большую часть исходного текста.

Практическое значение этого вопроса велико: например, автор, написавший собственный текст и лишь «прогнавший» его через Claude для «чистки», как и переводчик, переведший чужую статью, — оба в итоге получают текст с меткой. Anthropic отдельно отмечает оба этих случая в списке ограничений системы, поэтому наличие метки говорит лишь о том, что Claude участвовал в процессе, — и ничего не сообщает о том, кто именно написал текст. Компания обещает распространить маркировку и на модели, выпущенные до августа, однако точные сроки пока не объявлены.