💻

Calculadora de ahorro con prompt caching: cuánto ahorras al cachear tu prompt

Estima cuánto ahorras con prompt caching cuando reutilizas un prefijo largo (system prompt, contexto, documentos) en muchas solicitudes con el descuento de caché.

Tokens en caché por solicitud

Solicitudes al mes

Precio de entrada por 1M de tokens

Descuento por caché

Cargando calculadora…

Cómo funciona

Costo del prefijo = tokens en caché × solicitudes ÷ 1M × precio · Ahorro = costo del prefijo × % de descuento

Cuando muchas solicitudes comparten un prefijo largo que no cambia (un system prompt extenso, ejemplos few-shot o contexto recuperado), el prompt caching permite que el proveedor no lo vuelva a procesar y cobre esos tokens con un descuento fuerte, a menudo de 75% a 90%. El ahorro crece con el largo del prefijo y con el volumen de solicitudes, así que rinde mucho en apps con mucho tráfico y contexto compartido pesado, y casi nada en llamadas sueltas. Ojo: aquí solo se modela el prefijo en caché; la parte variable de cada prompt y los tokens de salida se cobran a precio completo aparte.

Ejemplo resuelto

La app de Valeria manda un prefijo de 5,000 tokens en 100,000 solicitudes al mes: 500M de tokens de prefijo. A $3 por millón, eso cuesta $1,500 sin caché; con un descuento de 90% ahorra $1,350 y paga solo $150, unos $16,200 de ahorro al año.

Preguntas frecuentes

¿Qué parte del prompt se puede cachear?

El prefijo estable: instrucciones del sistema, definiciones de herramientas, ejemplos few-shot y documentos recuperados que no cambian entre llamadas. La parte dinámica del final, como el último mensaje del usuario, no se cachea y se cobra normal.

¿Cuesta algo escribir en la caché?

Algunos proveedores cobran un pequeño sobreprecio al crear o renovar una entrada de caché y luego descuentan mucho las lecturas. Si el prefijo se reutiliza muchas veces antes de expirar, el ahorro en lecturas supera con creces ese costo; como aquí solo se modelan las lecturas, toma el resultado como un tope ligeramente alto.

¿Por qué el caching no me ayuda?

Si cada solicitud tiene un prefijo distinto, o mandas pocas solicitudes antes de que la caché expire (a menudo en pocos minutos), casi no hay nada que reutilizar. El caching premia el volumen alto con un prefijo largo y compartido.

Calculadoras relacionadas

Calculadora de tokens por dólar

Descubre cuántos tokens de un LLM compras con un dólar según el precio por millón de tokens y cuántos cubre tu presupuesto mensual, para comparar modelos rápido.

Calculadora de costo de tokens de LLM

Estima el costo de una llamada a la API de un modelo de lenguaje con los tokens de entrada y salida, sus precios por millón de tokens y el número de solicitudes.

Calculadora de chunks para RAG

Calcula en cuántos chunks se divide tu corpus para un pipeline RAG según el tamaño de chunk y el solapamiento, más los tokens vectorizados y el costo de embeddings.

Calculadora de costo de fine-tuning

Calcula cuánto cuesta un ajuste fino (fine-tuning) según el tamaño del dataset en tokens, las épocas y el precio de entrenamiento por millón de tokens de tu proveedor.

Estimación con fines educativos: los costos reales dependen de tu proveedor, el modelo y los precios, que cambian seguido. Compáralo con tus propias facturas antes de comprometer presupuesto.