Claude получил невидимый водяной знак: выдавать тексты ИИ за…

Claude получил невидимый водяной знак: выдать ИИ-текст за человеческий станет сложнее

Anthropic внедрила в свои новейшие языковые модели технологию, которая незаметно для читателя помечает каждый сгенерированный текст статистическим отпечатком. Механизм работает по принципу невидимого водяного знака — он не влияет на читаемость, не искажает смысл и сохраняется даже после копирования и ряда правок. Начиная с версий Claude, выпущенных с 2 августа, маркировка включена по умолчанию; старые модели получат её в течение ближайших четырёх месяцев.

Технически это выглядит как тонкое смещение вероятностного выбора токенов. На каждом шаге алгоритм, используя секретный ключ и контекст предыдущих слов, делит словарь на две группы и слегка предпочитает определённые варианты там, где это не сказывается на качестве. В результате в тексте накапливается статистический паттерн, который можно выявить специальным детектором, если знать ключ. Но есть и ограничения: интенсивное перефразирование, перевод на другой язык, смешивание с другими текстами или слишком короткий ответ могут уничтожить этот след.

Пока что детектировать маркеры может только сама Anthropic — ни публичного API, ни открытой документации компания не предоставила. Заявление о том, что в будущем инструменты появятся у сторонних организаций, звучит скорее как обещание, чем как готовое решение. На данный момент технология остаётся элементом внутренней корпоративной отчётности, а не общедоступным инструментом, что снижает её практическую ценность для внешних проверяющих.

Внедрение водяного знака — прямой ответ на требования европейского AI Act, который обязывает маркировать синтетический контент. Для издателей, академических журналов и литературных агентов такая функция выглядит долгожданной: достаточно вспомнить июльский скандал, когда литературный агент отказался поддерживать роман из-за подозрений в использовании ИИ. Но проблема остаётся: маркер легко обойти при достаточно грубой обработке, а отсутствие внешних инструментов проверки делает его скорее жестом доброй воли, чем реальным барьером.

В конечном счёте, водяной знак — это не панацея, а лишь один из шагов в долгой игре между создателями ИИ и теми, кто хочет использовать их творения без последствий. Технология справляется с массовым, немодифицированным контентом, но против целевого обхода у неё почти нет шансов. Anthropic делает правильный шаг в сторону прозрачности, но действительно эффективная система идентификации потребует не только технических решений, но и стандартов, общих для всей индустрии. Пока же это скорее тест-драйв, чем окончательный приговор.

Читайте также: