Anthropic и OpenAI планируют замедлить развитие ИИ
Гендиректор Anthropic Дарио Амодеи призвал замедлить улучшение возможностей передовых ИИ-моделей и предложил три стратегии, включая внедрение независимых оценщиков. Компания обязуется в одностороннем порядке следовать одной из мер, а OpenAI выразила поддержку.
Для бизнеса это может привести к более строгим требованиям по безопасности и проверке моделей, что повлияет на сроки внедрения новых ИИ-решений.
Амодеи назвал причинами для осторожного подхода хакерскую атаку на OpenAI и Hugging Face, а также ускорение прогресса ИИ, особенно в создании новых моделей. Он предложил встраивать оценщиков из сторонних организаций для проверки соблюдения обязательств по безопасности.
Дополнительно обсуждается координация между ведущими компаниями демократических стран по общим стандартам и ограничению темпов развития, а также возможное глобальное сотрудничество по запрету опасных применений ИИ.
OpenAI подтвердила готовность внедрить аналогичные меры по внешней оценке.
По материалам
