Событийно-управляемый асинхронный агент

Асинхронность нужна для длительных задач, динамических приоритетов событий и плавного прерывания/восстановления.

Фундаментальное противоречие:

парадигма обучения LLM синхронна (после вызова инструмента должен идти результат), а развёртывание требует асинхронности.

Все входы и выходы моделируются как поток событий в очереди; три стратегии обработки:

  • отмена — срочное: прервать и создать безопасную точку;
  • очередь — обычное: пакетно после завершения текущего шага;
  • параллельно — независимый лёгкий запрос: в отдельной сессии.

Инженерный компромисс — заполнители (плейсхолдеры) для незавершённых инструментов.

Связано: Пять категорий инструментов, Прерывание и заполнители, Цикл ReAct