IBM представила ALTK-Evolve для экономии токенов в агентных системах
IBM Research разработала ALTK-Evolve — систему агентной памяти, которая сохраняет уроки из прошлых траекторий агента и доставляет их модели выборочно. В отличие от ACE, новый подход сокращает число токенов на инференсе без потери качества.
Снижение расходов на инференс при работе агентных систем делает их более доступными для бизнеса. Компании смогут масштабировать сложные многошаговые задачи с меньшими затратами на API.
ALTK-Evolve и ACE решают одну задачу: агент учится на собственных ошибках и формирует reusable guidelines без дообучения модели. Оба метода отказываются от сжатия уроков в короткие саммари, сохраняя поддержку каждого правила по числу эпизодов.
Главное отличие — в доставке контекста. ACE загружает весь playbook на каждом шаге, а ALTK-Evolve передает небольшое ядро высокоприоритетных правил плюс релевантные для текущей задачи. Это позволяет адаптировать объем контекста под возможности модели.
На бенчмарке AppWorld ALTK-Evolve показал сопоставимую или лучшую точность при существенно меньшем расходе токенов: до 40 % от затрат ACE на сильной модели и около одной седьмой — на слабой.
По материалам
