Anthropic предоставит METR доступ к внутренним системам ИИ
Anthropic предоставил шести исследователям METR доступ на уровне сотрудников для независимой оценки моделей, практик безопасности и управления рисками. METR сможет публиковать результаты без согласования с компанией, за исключением ограниченных категорий данных.
Практика независимой оценки снижает риски неконтролируемого поведения ИИ и формирует стандарты прозрачности для отрасли. Компаниям, внедряющим ИИ, это помогает лучше оценивать надежность моделей перед интеграцией в бизнес-процессы.
Anthropic выдал исследователям METR корпоративные ноутбуки, доступ к офису и внутренним инструментам, сопоставимый с доступом собственных команд по оценке рисков.
METR сможет публиковать отчеты о рисках, инцидентах и практиках Anthropic без права вето со стороны компании. Исключение составляют узкие категории, такие как данные клиентов и сведения об архитектуре моделей.
Компания сравнивает формат сотрудничества с практикой размещения регуляторов внутри крупных банков. Это первый случай предоставления внешним оценщикам максимального уровня доступа в рамках трехступенчатой системы проверок.
По материалам
