Prompt Cache
Prompt Cache — межзапросный кэш на уровне API: одинаковый префикс разных запросов переиспользует уже вычисленный KV Cache. Чтение из кэша в разы дешевле (у Anthropic и DeepSeek примерно в 10 раз).
Различия провайдеров:
- Anthropic — требуется явная точка cache_control;
- OpenAI — кэширование автоматическое.
Экономика кэша — не постфактум-оптимизация, а архитектурное ограничение: порядок элементов промпта определяется границами кэша.