Исследование Microsoft: сброс истории чата помогает ИИ-агентам искать лучшие решения

Почему агенты перестают находить новые решения

Исследователи Microsoft обнаружили, что длительные запуски ИИ-агентов могут выходить на плато, даже если увеличить вычислительный бюджет. В восьми независимых запусках одного агента на одной задаче итоговые оценки различались: от 68,3 до 100,0. Разрыв сохранялся и при существенно большем объёме вычислений.

Сопоставив решения на карте, где близкие подходы расположены рядом, авторы заметили, что каждый запуск обычно остаётся в небольшой области — «бассейне идей». Агент продолжает улучшать решение в пределах этой области, вместо того чтобы искать более удачный подход, найденный в другом запуске. Периодическое сжатие истории диалога не устранило эту закономерность.

Описание экспериментов опубликовано в статье исследователей на arXiv.

Fork-and-Flush сочетает параллельные ветви и сброс контекста

Метод Fork-and-Flush создаёт K параллельных ветвей, каждая из которых наследует рабочее пространство родительского агента и созданные файлы. Затем историю чата каждой ветви сбрасывают, но рабочее пространство сохраняют. Так агент начинает новый диалог, опираясь на прежние материалы, но не на прежнюю цепочку рассуждений.

После запуска исследователи оставляют лучшую ветвь и отбрасывают остальные. По их объяснению, сохранённый контекст склоняет агента возвращаться к прежнему подходу, а новый помогает разнообразить поиск. Простая очистка контекста без ветвления тоже улучшила результаты.

Результаты на 13 задачах

Исследователи проверили метод на 13 длительных задачах, включая упаковку полимино, планирование заданий, криптоанализ, сжатие классификатора CIFAR и оптимизацию ядра VLIW. Запуски продолжались от нескольких часов до более чем 100 часов. Для тестов использовались GPT-5.6-terra и GPT-5.5 через GitHub Copilot CLI.

При одинаковом вычислительном бюджете Fork-and-Flush получил наивысший средний результат на 12 из 13 задач. Оценки нормированы по методу min-max; проценты улучшения приведены авторами относительно одиночного запуска.

Разброс результатов сохранялся у моделей разного размера

Отдельно авторы проверили три размера Qwen3.5 — 4B, 9B и 27B — на задачах MAX-3-SAT. Различия между запусками были максимальными на задачах у границы возможностей модели: одни попытки справлялись, другие заметно уступали. На очень лёгких задачах модели почти всегда преуспевали, а на очень трудных — обычно терпели неудачу.

Исследователи считают, что открытые исследовательские задачи по определению находятся у границы возможностей моделей. По их оценке, по мере развития моделей эта граница будет смещаться к более сложным задачам, поэтому сброс контекста может оставаться полезным для исследовательских агентов.