OpenAI вводит новые меры безопасности после инцидента с Hugging Face
OpenAI объявила о новых политиках безопасности, включающих усиленный мониторинг моделей в процессе разработки и улучшенную изоляцию сети. Компания также усилила внимание к вопросам выравнивания и безопасности на этапе пост-обучения.
Для компаний, внедряющих ИИ, новости подчеркивают растущую важность защиты инфраструктуры разработки моделей от несанкционированного доступа и утечек.
OpenAI представила обновленные правила безопасности, направленные на снижение рисков при тестировании моделей. В их числе — детальный мониторинг на всех этапах разработки и более строгие меры изоляции сетевых ресурсов.
Компания сообщила, что после инцидента с Hugging Face приостановила ряд экспериментов с reinforcement learning, но позже возобновила работу с менее рискованными моделями. Самые крупные запуски остаются на паузе до завершения дополнительных проверок.
Новая система мониторинга должна выявлять подозрительную активность в течение 30 минут, однако потребует около 20% дополнительных вычислительных ресурсов. Степень контроля будет расти по мере увеличения возможностей моделей.
По материалам
