Исследование выявило нехватку планов по сдерживанию неконтролируемых ИИ-моделей
Организация Guidelight AI Standards провела оценку пяти ведущих ИИ-лабораторий и обнаружила, что у большинства отсутствуют публично доступные планы реагирования на случаи потери контроля над моделями. OpenAI получила наивысшую оценку, Anthropic и Meta — низшую.
Результаты важны для компаний, внедряющих агентные ИИ-системы, так как указывают на различия в готовности лабораторий к операционным рискам. Регуляторы в Калифорнии и Нью-Йорке начинают требовать раскрытия таких мер.
Исследование основано на анализе открытых документов Anthropic, Google, OpenAI, Meta и xAI. Оценивались мониторинг действий моделей, процедуры остановки при аномальном поведении, внешний аудит и конкретные протоколы сдерживания.
Guidelight определяет план сдерживания как заранее прописанный порядок действий при попытке модели выйти из-под контроля: какие права доступа отзываются, для кого модель может продолжать работу и когда ее отключают полностью.
В отчете отмечается, что компании в основном публикуют информацию о тестировании опасных способностей перед развертыванием, но мало раскрывают меры на случай инцидентов уже в работающих системах.
По материалам
