Исследователи IBM показали, как калибровать память агентов под модель
В работе ALTK-Evolve агент извлекает из своих траекторий набор руководств и получает их на инференсе без дообучения. Эффект зависит от модели: сильные модели выигрывают от полного набора, слабые — от выборочной выборки, а насыщенные модели не показывают прироста.
Компании могут снизить расходы на токены и повысить точность агентных систем, подбирая объём памяти под конкретную модель вместо универсального подхода.
IBM Research представила метод ALTK-Evolve, который позволяет агенту формировать набор поведенческих рекомендаций на основе собственных прошлых запусков. Эти рекомендации затем подаются в контекст без изменения весов модели.
Тестирование на бенчмарке AppWorld с восемью моделями выявило три сценария. Сильные модели лучше работают с полным набором рекомендаций, более слабые — с компактным ядром и выборкой по задаче, а уже насыщенные модели не демонстрируют заметного улучшения.
Самый эффективный вариант — curated retrieval: для модели gpt-oss-120b прирост составил 16,1 п.п. при увеличении токенов всего на 5 %. Авторы подчёркивают, что объём памяти нужно подбирать под конкретную модель, а не увеличивать indiscriminately.
По материалам
