Anthropic раскрыла детали водяных знаков для текста Claude
Anthropic опубликовала разъяснения по механизму водяных знаков в ответах Claude, которые внедряются для выполнения требований EU AI Act. Компания использует подход SynthID-Text и планирует выпустить API для их обнаружения.
Внедрение водяных знаков поможет бизнесу соблюдать европейские правила прозрачности ИИ-контента и упростит проверку происхождения материалов.
Водяные знаки формируются при выборе между равнозначными вариантами слов и остаются незаметными для читателя, но обнаруживаются с помощью специального ключа. Качество текста при этом не меняется.
Легкое редактирование обычно не удаляет водяной знак полностью, тогда как полная переписка текста его уничтожает. В коде маркировка будет минимальной из-за ограниченной свободы выбора формулировок.
Другие крупные разработчики моделей также подписали тот же кодекс практики и введут собственные системы водяных знаков.
По материалам
