Кэш ввода DeepSeek: как работает и сколько можно сэкономить
Одна из самых недооценённых возможностей DeepSeek API — контекстный кэш. Если ваши запросы начинаются с одного и того же system-промпта или содержат повторяющийся контекст, DeepSeek запоминает эту часть и берёт за неё в разы меньше токенов. Разбираем механизм, тарифы и стратегии экономии.
Если вы отправляете много запросов с одинаковым началом (system prompt, инструкция, база знаний), DeepSeek не пересчитывает эту часть каждый раз, а берёт готовый результат из кэша. Цена за такие токены — до $0.003 за 1M вместо $0.15. Разница — в 50 раз.
Как работает кэш ввода в DeepSeek API
Кэш ввода (prompt caching) — стандартный механизм для LLM API, который DeepSeek внедрил одним из первых среди не американских провайдеров. Когда вы отправляете запрос, API разбивает его на токены и проверяет, есть ли уже вычисленное представление для начала этого текста.
Если модель уже обрабатывала точно такое же начало (префикс запроса) в течение некоторого времени — она использует сохранённое состояние и доначисляет только новую часть. Это называется cache hit (попадание в кэш). Если начало запроса уникальное — cache miss (промах), и цена считается по полной ставке.
Что именно кэшируется
- System prompt — если вы задаёте одинаковую системную инструкцию для всех диалогов (роль ассистента, формат ответа, правила).
- История диалога — в чат-ботах, когда вы передаёте предыдущие сообщения с каждым новым запросом.
- База знаний — если вы добавляете в контекст документы или инструкции, которые не меняются между запросами.
- Few-shot примеры — одинаковые примеры формата ответа в каждом запросе.
Меняться должна только самая последняя часть запроса (новое сообщение пользователя). Всё, что до него — кандидат на кэширование.
Цены: кэш-хит vs кэш-мисс
Разница в цене между попаданием и промахом — основная причина следить за кэшем. Тарифы на deepseek-flash и deepseek-v4-pro:
| Модель | Кэш-мисс (вне пика) | Кэш-хит (вне пика) | Кэш-мисс (пик) | Кэш-хит (пик) |
|---|---|---|---|---|
deepseek-flash |
$0.15 | $0.003 | $0.30 | $0.006 |
deepseek-v4-pro |
$0.66 | $0.022 | $1.32 | $0.044 |
Цифры говорят сами за себя: кэш-хит дешевле в 50 раз для flash и в 30 раз для v4-pro. Для типового чат-бота, где 80% ввода — это повторяющийся system prompt и история, экономия получается очень существенной.
Пример расчёта экономии
Представьте чат-бота техподдержки. Каждый запрос содержит:
- System prompt на 500 токенов (инструкция, правила, тон)
- Историю последних 10 сообщений — в среднем 2000 токенов
- Новое сообщение пользователя — 100 токенов
Итого: 2600 токенов ввода на запрос. Из них 2500 — повторяющийся префикс.
Без кэша (каждый запрос с нуля):
2600 токенов × $0.15 / 1M × 10 000 запросов = $3.90
С кэшем (префикс из кэша):
2500 × $0.003 + 100 × $0.15 = $0.0075 + $0.015 = $0.0225 за запрос
На 10 000 запросов: $2.25 вместо $3.90 — экономия 42%.
А если поднять system prompt до 4000 токенов (подробная база знаний), экономия будет ещё заметнее:
- Без кэша: 6100 × $0.15 / 1M × 10k = $9.15
- С кэшем: 6000 × $0.003 + 100 × $0.15 = $0.018 + $0.015 = $0.033 × 10k = $3.30
- Экономия: 64%
Как проверить, что кэш работает
DeepSeek API возвращает детальную статистику по токенам в поле usage ответа. Вот как выглядит типичный ответ с кэш-хитом:
{
"usage": {
"prompt_tokens": 2600,
"completion_tokens": 150,
"total_tokens": 2750,
"prompt_cache_hit_tokens": 2500,
"prompt_cache_miss_tokens": 100
}
}
prompt_cache_hit_tokens— сколько токенов ввода попали в кэш (2500).prompt_cache_miss_tokens— сколько токенов пришлось вычислять с нуля (100).
Если prompt_cache_hit_tokens равно нулю — кэш-мисс, и вы платите полную цену. Если оно больше нуля — значит, кэш работает, и вы экономите.
Стратегии для максимальной экономии
Вот несколько приёмов, которые помогут выжать максимум из кэширования:
1. Выносите инструкции в system prompt
Не смешивайте инструкции с пользовательским сообщением. Чем длиннее system prompt и чем чаще он повторяется, тем больше кэш-хитов.
2. Группируйте однотипные запросы
Если вы обрабатываете пачку однотипных данных (например, классифицируете отзывы), отправляйте их последовательно, не меняя system prompt между запросами.
3. Используйте одинаковые примеры (few-shot)
Примеры формата ответа лучше добавлять в system prompt, а не в каждое сообщение пользователя по отдельности.
4. Следите за временем жизни кэша
DeepSeek не документирует точное время хранения кэша, но на практике он сохраняется от нескольких минут до часа при условии, что запросы приходят регулярно. Делайте паузы между сериями запросов не больше 5–10 минут.
5. Измеряйте!
Добавьте в свой код логирование usage.prompt_cache_hit_tokens. Если вы видите, что кэш-хитов нет — возможно, вы毎 раз меняете даже служебные части запроса (например, timestamp в system prompt).
Ограничения кэширования
- Кэш сбрасывается между разными моделями — у flash и v4-pro свои отдельные кэши.
- Кэш зависит от точного совпадения — изменение хотя бы одного токена в префиксе (даже пробела в конце) даст кэш-мисс. Автоматически добавляемые системные сообщения могут мешать.
- В часы пик цены кэш-хита тоже удваиваются — но даже удвоенный кэш-хит значительно дешевле обычной цены.
- Кэш не работает через агрегаторы — если вы используете AITUNNEL или другой прокси-сервис, кэш DeepSeek может не срабатывать, потому что запросы приходят с другими параметрами. Уточняйте этот момент у конкретного агрегатора.
Если вы работаете через AITUNNEL, проверьте, передаётся ли кэш DeepSeek. Агрегаторы могут добавлять свои заголовки или менять формат запроса так, что кэш провайдера не срабатывает. В официальном API DeepSeek кэш работает гарантированно.
Частые вопросы
Кэш работает на deepseek-v4-pro так же эффективно, как на flash
Да, механизм одинаковый. Разница только в базовых ценах: у v4-pro они выше, но и экономия в абсолютных деньгах получается больше — кэш-хит стоит $0.022 вместо $0.66, разница в 30 раз.
Может ли кэш повлиять на качество ответов
Нет, кэшируется только внутреннее представление текста (key-value cache в attention-механизме), а не сами ответы. Качество генерации не меняется. Вы просто платите меньше за обработку повторяющейся части запроса.
Как долго хранится кэш DeepSeek
Точное время не документировано. На практике кэш жив от нескольких минут до часа. DeepSeek использует алгоритм LRU (least recently used) — если вы не обращаетесь к префиксу, он вытесняется. Регулярные запросы продлевают жизнь кэша.
Стоит ли гоняться за кэшем для разовых запросов
Нет. Кэш ввода даёт экономию только на повторяющихся префиксах. Если вы отправляете единичные запросы с уникальным контекстом — кэш вам не поможет. Оптимизация имеет смысл для чат-ботов, пакетной обработки и ассистентов с длинным system prompt.
Ещё по теме
- Цены и расчёт стоимости Часы пик, кэш ввода и примеры расчёта.
- Режим рассуждений Как работает thinking и как он влияет на расход.
- deepseek-flash или deepseek-v4-pro Сравнение моделей и способы экономии.
- Как сэкономить на токенах DeepSeek Кэш, часы пик, рассуждения, лимиты.