Сотрудник Anthropic ушел из-за опасений по поводу рисков ИИ
Исследователь Джейкоб Коксон покинул Anthropic, заявив, что ведущие компании по разработке ИИ подвергают человечество опасности. Руководитель направления alignment компании подтвердил серьезность угрозы с вероятностью более 10% в ближайшее десятилетие.
Публичные заявления о высоких рисках могут повлиять на регуляторные требования и подходы компаний к внедрению ИИ, особенно перед IPO. Это подталкивает бизнес учитывать вопросы безопасности при планировании проектов.
Дискуссия началась после заявления бывшего сотрудника Anthropic Джейкоба Коксона о его уходе из-за опасений, что компании «играют жизнями людей». Публикацию поддержал руководитель направления alignment Anthropic, подчеркнувший, что компания всерьез рассматривает сценарий уничтожения человечества ИИ.
На подкасте Equity TechCrunch участники обсудили мотивы таких заявлений. Они отметили, что подобные предупреждения могут служить способом демонстрации продвинутости моделей, особенно на фоне подготовки компаний к выходу на биржу.
Ведущие также выразили скепсис относительно точности оценок рисков и отметили противоречие между заявлениями о глобальной угрозе и продолжением активной разработки ИИ.
По материалам
