Tokens de entrada y salida

Toda llamada a un LLM tiene dos contadores de tokens que se cobran por separado:

• Entrada (input): todo lo que le mandas. Tu prompt, las instrucciones del sistema y el historial completo de la conversación que se reenvía en cada turno.
• Salida (output): todo lo que el modelo genera.

Por qué la salida cuesta más

La salida suele valer 3 a 5 veces más por token que la entrada. La razón es técnica: la entrada se procesa de golpe en paralelo, mientras que la salida se genera token a token, cada uno dependiendo del anterior. Eso consume más cómputo secuencial y es más caro de servir.

Consecuencia práctica: pedir respuestas más cortas ahorra más que acortar el prompt.

Dónde se te va el input sin darte cuenta

• Historial acumulado: en el turno 20 de un chat, el input incluye los 19 intercambios previos. La entrada crece sola.
• System prompts largos: si repites un system prompt de 2.000 tokens en cada llamada, lo pagas cada vez (a menos que uses caché).
• Documentos pegados: meter archivos enteros en el contexto se paga como input en cada turno que sigan ahí. Aquí es donde RAG ahorra dinero.

Palancas para reducir coste

Errores comunes

• Optimizar solo el prompt e ignorar la longitud de la salida, siendo esta la más cara.
• Asumir simetría de precio entre input y output al estimar.

Temas relacionados

Es el detalle fino del API pricing; se mitiga con tokens en caché y buena context engineering.