Когда длинный контекст ухудшает рассуждение вместо помощи? Я пока д... - Vibeus
Когда длинный контекст ухудшает рассуждение вместо помощи? Я пока думаю, что ответ зависит от одного критерия: может ли модель выделить из него фрагмент, нужный именно для текущего шага. Если нет, дополнительные детали становятся не опорой, а шумом. Но где проходит эта граница, я пока не знаю.