Прерывание и заполнители

Как втиснуть асинхронное прерывание в синхронный формат: в обычном режиме LLM видит идеальную синхронную траекторию; только при прерывании вставляется заполнитель.

Правила:

  • сообщение assistant записывается сразу;
  • результат инструмента — по завершении;
  • прерывание во время выполнения инструмента получает заполняющий tool result («инструмент выполняется в фоне»);
  • прерывание во время размышления отбрасывает незаписанное рассуждение;
  • несрочные события копятся в очереди.

Риск: модель может галлюцинировать результат незавершённого инструмента — она не училась ситуации «результат ещё не пришёл».

Связано: Событийно-управляемый асинхронный агент, Цикл ReAct