Costo API LLM por tokens🇦🇷

La fórmula base es: Costo = (tokens_in × precio_in/1.000.000) + (tokens_out × precio_out/1.000.000). Los precios se publican por millón de tokens (MTok). Por ejemplo, una llamada a GPT-4o con 1.000 tokens in y 500 tokens out cuesta: (1.000 × 0,0000025) + (500 × 0,00001) = USD 0,0025 + USD 0,005 = USD 0,0075 por llamada. Si hacés 1.000 llamadas así por día, son USD 7,50 diarios y aprox. USD 225 mensuales. El multiplicador de llamadas diarias por 30 días da el costo mensual proyectado. Lo que muchos olvidan: el output casi siempre cuesta 4x o 5x más por token que el input, así que controlar el largo de la respuesta con max_tokens tiene impacto directo en la factura.

Claude (Anthropic): Sonnet 4 USD 3/MTok in y USD 15/MTok out; Opus 4 USD 15/75; Haiku 4 USD 0,80/4. OpenAI: GPT-4o USD 2,50/10; GPT-4o-mini USD 0,15/0,60; o3-mini varía según nivel de razonamiento. Google: Gemini 1.5 Pro USD 1,25/5; Gemini Flash USD 0,075/0,30. Regla práctica: los modelos 'mini' o 'flash' son entre 10x y 30x más baratos que los flagship. Para tareas de clasificación, extracción simple o generación de texto estructurado, rara vez necesitás el modelo más caro. Los precios los fijan las propias empresas y pueden cambiar; siempre verificá en anthropic.com/pricing y openai.com/api/pricing antes de definir un budget.

Los tokenizadores de todos los modelos grandes (GPT, Claude, Gemini) fueron entrenados con predominancia de texto en inglés. El inglés tiene una alta cobertura de palabras completas como tokens únicos. El español, en cambio, tokeniza de manera menos eficiente: palabras como 'instalación', 'configuración' o 'autenticación' se dividen en múltiples tokens. Benchmark empírico: un texto de 100 palabras en inglés ocupa aprox. 130 tokens; el mismo texto traducido al español ocupa entre 170 y 190 tokens. Esto representa entre 30% y 45% más de costo por la misma cantidad de información semántica. Si tu app está en español, ajustá los estimados de tokens por palabra a 2 tokens/palabra como regla conservadora, no 1,33 que sería el ratio en inglés.

Prompt caching (disponible en Claude y GPT-4o en beta) permite que el proveedor guarde en memoria el prefijo de tu prompt durante una ventana de tiempo (5 minutos en Claude, hasta 1 hora según configuración). Las llamadas subsiguientes que usen ese mismo prefijo pagan un precio reducido por los tokens cacheados: Claude cobra USD 0,30/MTok para cache hit vs. USD 3 normal, una reducción del 90%. Caso concreto: system prompt de 10.000 tokens repetido en 1.000 llamadas/día. Sin cache: 10.000 × 1.000 × 30 × 0,000003 = USD 900/mes solo en system prompt. Con cache activo desde la segunda llamada: aprox. USD 90/mes. El ahorro mensual es USD 810 en ese único componente. Para activarlo en Claude usás cache_control: ephemeral en el bloque del mensaje.

La Batch API de OpenAI y el equivalente Message Batches de Anthropic permiten enviar grandes volúmenes de requests que se procesan de manera asíncrona, con un plazo de hasta 24 horas, a cambio de un 50% de descuento sobre el precio estándar. GPT-4o-mini en batch cuesta USD 0,075/MTok in y USD 0,30/MTok out. Aplica perfectamente para: evaluación masiva de datasets, enriquecimiento de catálogos de productos, clasificación de tickets históricos, generación de descripciones SEO en lote, análisis de contratos sin urgencia. No aplica para: chatbots interactivos, asistentes en tiempo real, cualquier flujo donde el usuario espera respuesta inmediata. El ahorro puede justificar rediseñar pipelines que hoy corren en tiempo real sin necesidad real de hacerlo.

Cada proveedor tiene su herramienta oficial. OpenAI: librería tiktoken en Python; GPT-4o usa el encoding o200k_base, GPT-4 usa cl100k_base. Ejemplo: import tiktoken; enc = tiktoken.get_encoding('o200k_base'); len(enc.encode(texto)). Anthropic: endpoint POST /v1/messages/count_tokens que devuelve el conteo exacto antes de enviar, o el paquete anthropic-tokenizer. Google: método model.count_tokens() del SDK oficial. Conteo aproximado rápido si no querés usar código: dividí la cantidad de caracteres por 4 para inglés, o por 3 para español. Esto da un estimado con ±15% de error, útil para presupuestos, no para facturación exacta.

Streaming no cambia el precio: pagás exactamente los mismos tokens procesados, solo cambia cuándo los recibís (token a token vs. toda la respuesta junta). Lo que sí puede afectar el costo son los reintentos (retries): si tu código reintenta automáticamente en caso de timeout o error 5xx y el modelo ya empezó a generar, ese intento parcial puede o no cobrarse dependiendo del proveedor y del tipo de error. Anthropic cobra los tokens generados incluso en errores de red si el request llegó al servidor. Buena práctica: implementá un límite de reintentos (máximo 2-3) con backoff exponencial, y logueá los tokens de cada llamada para detectar anomalías. Un bug de retry infinito puede multiplicar tu factura inesperadamente en minutos.

Gemini API: tiene free tier real con 15 requests por minuto en Gemini 1.5 Flash, sin costo, sin tarjeta requerida para el tier básico. Ideal para prototipar. OpenAI: otorga USD 5 en créditos a cuentas nuevas (varió históricamente, verificar al registrarse), con expiración en 3 meses. Anthropic: no tiene free tier de API; Claude.ai web es gratuito con límite de mensajes diarios pero no exponés la API. Alternativa local sin costo: Ollama permite correr modelos como Llama 3, Mistral o Phi-3 localmente en tu máquina sin pagar por token. Es la opción más usada para desarrollo y testing antes de decidir qué API usar en producción. Para volúmenes de desarrollo, el free tier de Gemini suele alcanzar para las primeras semanas de integración.

Las APIs se facturan en dólares estadounidenses contra tarjeta de crédito o débito internacional. Para un developer argentino, el tipo de cambio relevante depende de cómo adquirás los dólares: al tipo de cambio oficial (referencia BCRA) o al paralelo. Al momento de escribir esto, USD 100/mes de API puede representar entre $140.000 y $200.000 ARS dependiendo del tipo de cambio. El cargo en tarjeta de crédito argentina suma el impuesto PAIS (cuando aplica) y las percepciones de Ganancias/Bienes Personales según ARCA (ex-AFIP), que podés computar como pago a cuenta en la declaración anual. Si facturás en USD a clientes del exterior, el costo de la API es un gasto deducible directo. Para proyectos locales, es clave incorporar este costo en el pricing desde el día uno.

La regla práctica: empezá con el modelo más barato que complete la tarea correctamente. Haiku 4 o GPT-4o-mini son 10-20x más baratos y suficientes para: clasificación de texto, extracción de entidades, resúmenes simples, respuestas de soporte con RAG acotado, generación de texto estructurado (JSON, listas). Necesitás Sonnet 4, GPT-4o o Gemini 1.5 Pro cuando: la tarea requiere razonamiento complejo, comparación de múltiples documentos largos, generación de código complejo, o cuando la diferencia de calidad tiene impacto directo en conversión o retención. Estrategia de routing: clasificar el tipo de query primero (con un modelo barato) y derivar solo las complejas al modelo caro. Esto puede reducir el 60-70% del gasto en arquitecturas mixtas.

Si mandás un prompt que supera la context window del modelo (128k tokens en GPT-4o, 200k en Claude Sonnet), la API devuelve un error antes de procesar y no se cobra. Donde sí podés pagar por un error es en timeouts de red: si el modelo empezó a generar y se cortó la conexión, algunos proveedores cobran los tokens generados hasta ese punto. Claude especifica en su documentación que se cobra por tokens de input siempre que el request sea recibido, más los output tokens efectivamente generados. Para evitar costos por errores: implementá validación de longitud en el cliente antes de enviar, usá el endpoint de conteo de tokens, y monitoreá tu dashboard de facturación con alertas de presupuesto. Tanto OpenAI como Anthropic permiten configurar límites de gasto mensuales para evitar sorpresas.

1. Comprimir el system prompt: cada palabra que eliminás del system prompt se multiplica por cada llamada del mes. Un system prompt de 500 tokens vs. uno de 200 tokens ahorra 300 × llamadas/mes. 2. RAG con top-k acotado: en lugar de mandar 10 chunks de contexto, mandá los 3 más relevantes. Reduce tokens in sin pérdida significativa de calidad en la mayoría de los casos. 3. Truncar el historial de conversación: no acumulés toda la historia; mantené las últimas 4-6 rondas o un resumen comprimido. 4. max_tokens explícito: definí el largo máximo de respuesta esperado. Si necesitás respuestas de 150 palabras, poné max_tokens=250 para español. 5. Caché de respuestas a nivel aplicación: si varias queries similares tienen la misma respuesta, guardala en Redis o similar y no llamás a la API dos veces. Combinar estas técnicas puede reducir el costo total entre 50% y 80% frente a una implementación naive.