Сатья Наделла призвал внедрить механизм остановки ИИ-моделей
Глава Microsoft заявил о необходимости пересмотреть архитектуру доверия в ИИ-системах. Он предложил отделить модели от управляющих механизмов, добавить внешние safeguards и обеспечить возможность принудительной остановки.
Компаниям, внедряющим ИИ, стоит учитывать требования к прозрачности и контролю над моделями для снижения операционных рисков.
В публикации на X Сатья Наделла отметил, что модели нельзя рассматривать как вложенные черные ящики. Он предложил разделить модель и управляющую систему, а также вынести средства контроля и защиты за пределы модели.
Каждое значимое действие модели должно фиксироваться в защищенных от изменения читаемых записях. При этом уполномоченные лица должны иметь возможность приостановить или полностью остановить модель в процессе работы.
Наделла подчеркнул необходимость изначально предполагать возможность компрометации модели и обеспечивать ее изоляцию, сравнив такой подход с аварийным тормозом.
По материалам
