Модели
Длинный контекст изменил экономику работы с документами
Рост окна контекста снял часть задач с поисковых конвейеров, но не отменил их: на больших корпусах выборка источников по-прежнему даёт более предсказуемый и проверяемый ответ.
Почему это важно для бизнеса
«Загрузить всё в модель» — не архитектура. На объёмах компании выигрывает связка поиска и генерации: дешевле в эксплуатации и видно, откуда взят ответ.
Источник: Асфера · дайджест
