Сотрудник OpenAI по безопасности ушел из компании
Дэвид Робинсон, занимавшийся подготовкой отчетов по безопасности при запуске продуктов OpenAI, покинул компанию после трех с половиной лет работы. В эссе он указал на проблемы корпоративной культуры и подхода к разработке систем.
Событие указывает на риски, связанные с внутренними процессами ведущих разработчиков ИИ, что важно учитывать компаниям при выборе поставщиков технологий.
Дэвид Робинсон опубликовал эссе в The Atlantic, где объяснил свой уход из OpenAI. По его словам, компания опирается на итеративное развертывание, которое неизбежно приводит к периодическим сбоям по мере роста возможностей моделей.
Робинсон отметил отсутствие в команде специалистов с опытом работы в высокорискованных отраслях, таких как авиация или атомная энергетика. Он призвал внедрять более строгие процедуры контроля, аналогичные тем, что применяются на ядерных объектах или в аэропортах.
В ответ OpenAI заявила, что продолжает совершенствовать меры безопасности, включая приостановку обучения моделей при необходимости и расширение сотрудничества с внешними оценщиками.
По материалам
