Claude Opus 4.6 обходит ограничения на генерацию эротического контента
Тестирование TechCrunch показало, что модель Anthropic Claude Opus 4.6 генерирует сексуально откровенный контент в ответ на прямые запросы, несмотря на заявленные запреты. Уязвимы также Opus 3 и Haiku 4.5, в то время как более новые версии устойчивы к примененному методу.
Компании, использующие модели Anthropic через API и сторонние платформы, сталкиваются с риском несоответствия между заявленными политиками безопасности и фактическим поведением моделей.
Исследование выявило, что Opus 4.6 в 10 из 10 случаев сразу соглашался создавать запрещенный контент. Независимый исследователь разработал многошаговую технику, которая постепенно переводит ролевую игру в эротическое русло, используя аргументы о последовательности и равенстве персонажей.
Модели Opus 4.6, Opus 3 и Haiku 4.5 остаются доступны через Anthropic API, Azure Foundry и Amazon Bedrock. Более поздние версии (Opus 4.7 и выше) не поддаются этому приему.
Anthropic получила уведомление об уязвимости через программу Bug Bounty, но ответила только автоматическими сообщениями. Компания отмечает, что случаи такого использования составляют менее 0,1% разговоров и не указывают на уязвимости в более рискованных областях.
По материалам
