Калькулятор экономии на кэше

Гоняете чат-бота с большим системным промптом или задаёте много вопросов к одному документу? Посчитаем, сколько срежет кэширование промптов.

Постоянная часть запроса: 3 000 токенов

Системный промпт, документ, описания инструментов — то, что не меняется

Переменная часть: 200 токенов

Вопрос пользователя — то, что каждый раз новое

Ответ модели: 500 токенов

Запросов в день: 1 000 Модель / тариф Кэш попадает (запросы идут подряд)

Кэш живёт минуты. Если запросы редкие — он не сработает, и цена будет как без него.

Без кэша, в месяц

С кэшем, в месяц

Экономия

—

Как это считается

Без кэша: каждый запрос оплачивается целиком (постоянная + переменная часть) по обычной входной цене. С кэшем: постоянная часть один раз записывается в кэш (у Anthropic запись дороже обычного входа примерно на 25% — это учтено), а дальше читается со скидкой. Переменная часть и ответ платятся всегда полностью. Расчёт приблизительный: реальная цена зависит от тарифа, времени жизни кэша и того, насколько плотно идут запросы. Месяц считаем за 30 дней.

Как устроено кэширование и как перестроить запрос — в гайде про кэширование промптов. Простой расчёт стоимости без кэша — калькулятор API.