Динамическая загрузка инструментов
Динамическая загрузка не должна ломать KV Cache: полная схема нового инструмента добавляется в конец контекста (в траекторию), статический префикс остаётся стабильным.
Добавление в конец не инвалидирует кэш: причинное внимание означает, что K и V уже закэшированных токенов не меняются. Схема фиксируется на месте первого появления и дальше кэшируется как обычная история (не переносится заново в конец каждый раунд).
Поддержка на уровне API:
- OpenAI — toolsearch + deferloading;
- Anthropic — tool_reference;
- Codex CLI — BM25-поиск.
Правило «определения инструментов только в начале» больше не железный закон.
Связано: Проактивное обнаружение инструментов, KV Cache, Протокол MCP