Anthropic нашла способ разоблачать тексты Claude: пользователь ничего не заметит

Anthropic объяснила, как Claude обозначает текст, созданный ИИ. Система должна помочь отличать ответы чат-бота от текста, написанного человеком, и отвечать новым требованиям ЕС.

Про це йдеться в повідомленні Anthropic. 

Как работать водяные знаки и защита анонимности? 

Для реализации маркировки Anthropic выбрала алгоритм SynthID-Text, ранее разработанный командой Google DeepMind.

Как он работает?

Принцип синтаксического выбора: при создании текста модель выбирает между синонимическими словами (например, "облачно" или "мрачно") на основе специального ключа генерации случайных чисел. Это образует скрытый математический паттерн.

Отсутствие визуальных изменений: водяной знак полностью незаметен читателю, не добавляет скрытых символов или дополнительных токенов и не влияет на скорость генерации или стоимость услуг.

Конфиденциальность: заверения разработчиков свидетельствуют, что паттерн не содержит персональных данных пользователей, информации об организациях или истории конкретных диалогов.

C2PA для мультимедиа: для изображений и файлов (форматы .png, .jpg, .svg) будут использоваться криптографические метаданные стандарта C2PA без изменения самого содержимого.

Устойчивость к редактированию и специфика работы с кодом 

Представители Anthropic отдельно очертили границы применения и алгоритмические особенности технологии в разных рабочих сценариях.

Редактирование и перефразирование: незначительное редактирование текста человеком не удалит водяной знак полностью. В то же время полная переписка с заменой каждого слова полностью уничтожает маркировку.

Требования к точности и код: в ситуациях, где требуется строгая точность (фактические данные или программный код), водяной знак почти не применяется, поскольку модель не имеет свободы выбора синонимов.

Исключение могут быть только произвольные названия переменных или комментарии в коде.

Проверка наличия: компания планирует запустить специальный API для детекции водяных знаков.

Инструмент будет определять только вероятность участия Claude в создании текста, но не будет идентифицировать автора или факт полного написания текста или кода человеком.