Google DeepMind создает институт для обсуждения AGI
Google и Google DeepMind запустили DeepMind Institute для расширения дискуссии по вопросам искусственного общего интеллекта. Институт опубликовал четыре эссе, посвященные экономической политике, прозрачности моделей, принципам развития и оценке передовых систем.
Предлагаемые рамки оценки моделей и требования к прозрачности могут повлиять на подходы к разработке и внедрению ИИ в компаниях. Бизнесу стоит учитывать возможные будущие стандарты при работе с frontier-моделями.
Директорами института стали сооснователь DeepMind Шейн Легг, исполнительный директор Google Джеймс Маньика и председатель Google DeepMind Демис Хассабис. Легг назначен главным редактором.
В числе первых публикаций — работа исследователей DeepMind о сокращающемся окне прозрачности моделей и предложение Хассабиса о создании американского органа по стандартам оценки frontier AI с добровольным участием разработчиков.
Авторы отмечают, что позиции участников могут меняться по мере появления новых данных, и подчеркивают необходимость прямого учета компромиссов между мощностью и контролируемостью систем.
По материалам
