Сжатие контекста

Сжатие нужно не только из-за длины, но и для качества мышления: обобщённое знание использовать удобнее сырого.

Причины две:

• ограничение окна и стоимости;
• деградация контекста — помещается, но не находится.

Стратегии:

• контекстно-ориентированное сжатие — учитывать текущий запрос; эффективнее слепого резюме;
• адаптивное окно — сжимать при пороге ~80%, пакетно;
• сохранение идентификаторов дословно.

Изоляция лучше сжатия: суб-агент выполняет грязную работу в своём контексте и возвращает главному только резюме.

Связано: Строка состояния агента, KV Cache, Мультиагентное взаимодействие без общего контекста