MIT Technology Review: языковые модели не умеют рассуждать
Статья объясняет, что в отличие от AlphaGo современные LLM работают только по принципу предсказания следующего токена и не обладают отдельным механизмом рассуждений.
Компании, внедряющие ИИ, должны учитывать ограничения текущих моделей при решении задач, требующих надежного логического анализа и проверки гипотез.
Автор сравнивает AlphaGo 2016 года с сегодняшними большими языковыми моделями. AlphaGo сочетал интуитивную сеть с механизмом поиска по дереву игры, что позволяло оценивать последствия ходов и находить нестандартные решения.
LLM, даже при использовании цепочек рассуждений, остаются в рамках одного процесса — предсказания следующего токена. У них отсутствует явное представление знаний, отдельное от механизма манипуляции ими, и они не ведут проверяемое состояние гипотез.
В результате модели часто формируют объяснения постфактум, а не демонстрируют реальное пошаговое рассуждение. Это ограничивает их применимость в областях, где требуется достоверность и новизна выводов.
По материалам
