Событийно-управляемый асинхронный агент
Асинхронность нужна для длительных задач, динамических приоритетов событий и плавного прерывания/восстановления.
Фундаментальное противоречие:
парадигма обучения LLM синхронна (после вызова инструмента должен идти результат), а развёртывание требует асинхронности.
Все входы и выходы моделируются как поток событий в очереди; три стратегии обработки:
- отмена — срочное: прервать и создать безопасную точку;
- очередь — обычное: пакетно после завершения текущего шага;
- параллельно — независимый лёгкий запрос: в отдельной сессии.
Инженерный компромисс — заполнители (плейсхолдеры) для незавершённых инструментов.
Связано: Пять категорий инструментов, Прерывание и заполнители, Цикл ReAct