Динамическая загрузка инструментов

Динамическая загрузка не должна ломать KV Cache: полная схема нового инструмента добавляется в конец контекста (в траекторию), статический префикс остаётся стабильным.

Добавление в конец не инвалидирует кэш: причинное внимание означает, что K и V уже закэшированных токенов не меняются. Схема фиксируется на месте первого появления и дальше кэшируется как обычная история (не переносится заново в конец каждый раунд).

Поддержка на уровне API:

  • OpenAI — toolsearch + deferloading;
  • Anthropic — tool_reference;
  • Codex CLI — BM25-поиск.

Правило «определения инструментов только в начале» больше не железный закон.

Связано: Проактивное обнаружение инструментов, KV Cache, Протокол MCP