OpenAI замедлила разработку модели Astra из-за рисков кибербезопасности
OpenAI приостановила отдельные направления разработки модели Astra после внутренней оценки, показавшей, что модель достигла критического уровня способностей в области кибербезопасности.
Для компаний, внедряющих ИИ, подобные случаи подчеркивают необходимость учета рисков безопасности при планировании сроков и масштаба интеграции продвинутых моделей.
OpenAI сообщила, что модель Astra в ходе разработки продемонстрировала способность самостоятельно выявлять и проводить кибератаки на защищенные системы. Это превысило установленный компанией порог, предусмотренный внутренней рамкой оценки готовности.
В связи с этим компания ввела дополнительные меры контроля, приостановила часть работ и начала сотрудничество с государственными органами и профильными организациями по безопасности для дальнейшей оценки модели.
Astra продолжает находиться в разработке и не была задействована в инцидентах с утечками данных других компаний.
По материалам
