Исследователи нашли уязвимости в фильтрах изображений OpenAI и Google
Исследователи из White Circle протестировали модели DALL·E 3, GPT-Image-2 и Nano Banana 2 и обнаружили, что их системы защиты от генерации откровенного контента можно обойти с помощью доступных инструментов в 13% случаев. Новые версии моделей оказались ещё более уязвимыми.
Для компаний, использующих генеративные модели в продуктах, слабые фильтры увеличивают риски появления нежелательного контента и последующих репутационных и юридических проблем.
Исследователи White Circle опубликовали препринт, в котором описали метод обхода защитных фильтров в моделях OpenAI и Google. Атаки проводились через API с использованием общедоступных инструментов без необходимости в специальных знаниях.
По результатам тестов, новый метод позволил генерировать запрещённый контент в 13% случаев — это выше, чем у ранее известных подходов. Авторы также проверили обновлённые версии моделей и отметили, что их защита стала слабее.
White Circle планирует открыть исходный код метода и представить работу на конференции NeurIPS 2026. Компании OpenAI и Google на запросы комментариев не ответили.
По материалам
