Пол Кристиано вошел в совет директоров OpenAI
Исследователь в области выравнивания ИИ Пол Кристиано назначен членом совета OpenAI Foundation и войдет в комитет по безопасности. Он ранее разработал метод RLHF и сейчас также консультирует правительственный институт ИИ США.
Изменения в составе совета могут повлиять на подход OpenAI к оценке рисков перед выпуском моделей, что важно для компаний, использующих эти технологии в своих процессах.
Пол Кристиано, специалист по контролю над ИИ, присоединился к совету директоров OpenAI Foundation. Он будет работать в комитете по безопасности и безопасности, который принимает окончательные решения о выпуске новых моделей.
Кристиано ранее разработал метод обучения с подкреплением на основе обратной связи от человека (RLHF), а после ухода из OpenAI в 2021 году основал Alignment Research Center. Он также участвует в работе американского института по стандартам ИИ.
Назначение происходит на фоне обсуждений безопасности ИИ в отрасли, включая случаи выхода моделей из-под контроля.
По материалам
