LiteLLM con un api_base personalizado: llamar a CheapTokens en Python

Para enviar LiteLLM a CheapTokens cambias tres valores: model recibe el prefijo openai/ delante del id completo del modelo, api_base pasa a ser https://api.cheaptokens.dev/v1, y api_key es tu clave de CheapTokens. Ese es todo el cambio, tanto para litellm.completion() en Python como para un proxy de LiteLLM.

Supón que ya tienes un proyecto que llama a litellm.completion() con un modelo de OpenAI o Anthropic, y quieres probar uno más barato sin tocar el resto del código. El prefijo es lo que lo hace funcionar: la documentación del proveedor compatible con OpenAI de LiteLLM (consultada el 29 de octubre de 2026) indica que para cualquier endpoint compatible con OpenAI se configura el modelo con openai/ para que LiteLLM enrute al proveedor de OpenAI, y luego se pasan api_base y api_key junto a él. CheapTokens habla el formato OpenAI Chat Completions en https://api.cheaptokens.dev/v1, así que encaja.

La misma llamada en Python y en un proxy#

Las dos configuraciones son breves. Elige la pestaña que corresponda a cómo ejecutas LiteLLM.

import os
import litellm

response = litellm.completion(
    model="openai/deepseek-ai/DeepSeek-V4-Flash-0731",
    api_base="https://api.cheaptokens.dev/v1",
    api_key=os.environ["CHEAPTOKENS_API_KEY"],
    messages=[{"role": "user", "content": "Explain what api_base does in one sentence."}],
    max_tokens=200,
)

print(response.choices[0].message.content)
print(response.usage)

model_list:
  - model_name: cheap-chat
    litellm_params:
      model: openai/deepseek-ai/DeepSeek-V4-Flash-0731
      api_base: https://api.cheaptokens.dev/v1
      api_key: os.environ/CHEAPTOKENS_API_KEY

curl http://localhost:4000/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model": "cheap-chat", "messages": [{"role": "user", "content": "Say hi"}]}'

El id del modelo es la parte con la que la gente tropieza. El id que acepta CheapTokens es el completo, deepseek-ai/DeepSeek-V4-Flash-0731, y openai/ va delante de él. No deepseek-v4-flash, ni solo el prefijo más un nombre corto. Si no estás seguro de cómo se llama un modelo, lista los modelos con GET /v1/models y copia el id de la respuesta.

Lo que deberías ver#

Ejecuta la pestaña de Python. El primer print muestra el texto del modelo. El segundo muestra response.usage, los recuentos de tokens de esa única llamada: prompt_tokens para lo que enviaste y completion_tokens para lo que escribió el modelo. LiteLLM los devuelve con la forma de OpenAI, así que el código que ya lee usage sigue funcionando. Si quieres convertir esos dos números en una factura acumulada, tracking agent token cost in Python muestra cómo.

Añadir más modelos al proxy#

La gracia de model_name es que tus clientes mantienen un alias mientras tú cambias lo que hay detrás. Un model_list puede contener varias entradas, todas apuntando al mismo api_base y a la misma clave, porque un saldo de CheapTokens cubre todos los modelos:

model_list:
  - model_name: cheap-chat
    litellm_params:
      model: openai/deepseek-ai/DeepSeek-V4-Flash-0731
      api_base: https://api.cheaptokens.dev/v1
      api_key: os.environ/CHEAPTOKENS_API_KEY
  - model_name: cheap-glm
    litellm_params:
      model: openai/zai-org/GLM-5.3-Flash
      api_base: https://api.cheaptokens.dev/v1
      api_key: os.environ/CHEAPTOKENS_API_KEY
  - model_name: cheap-minimax
    litellm_params:
      model: openai/MiniMaxAI/MiniMax-M2.7
      api_base: https://api.cheaptokens.dev/v1
      api_key: os.environ/CHEAPTOKENS_API_KEY

¿Qué alias para qué tarea? Para llamadas de chat y de agente donde la respuesta puede ser larga, DeepSeek-V4-Flash es el indicado para empezar: contexto de 380K, hasta 32.768 tokens de salida por respuesta y un precio fijo sin horas punta. GLM-5.3-Flash tiene un contexto de 390K y hasta 8.192 tokens de salida. MiniMax-M2.7 tiene 180K de contexto. La página de DeepSeek tiene los detalles, y pricing lista las tarifas actuales de los tres.

Cuando falla: Not Found y 401#

Dos errores cubren la mayoría de las primeras llamadas fallidas. La documentación de LiteLLM dice que no añadas nada extra a la URL base, y que ante un error Not Found compruebes que api_base termina en /v1. Un detalle: el propio ejemplo de la documentación para un proxy local usa http://0.0.0.0:4000 sin /v1. Ese es otro servidor. Para CheapTokens, el /v1 se queda.

Para el recorrido completo por los códigos de estado consulta API 401 or 404: wrong key, base URL or model id. Si primero quieres la idea que hay detrás de api_base, what base_url is and how to switch lo explica en lenguaje llano.

Cuánto cuestan mil llamadas#

Supón que un bot de soporte detrás del proxy envía 1.000 peticiones al día, cada una con unos 2.000 tokens de entrada (la pregunta más el contexto) y 500 tokens de salida. Aquí tienes esa carga con precios reales, con una columna de OpenRouter para comparar el total, contando entrada y salida juntas:

Para DeepSeek-V4-Flash esa carga cuesta $0.08 al día, y la tabla muestra que es más barato que OpenRouter en total. Cambia los dos números por tu petición media y tendrás tu presupuesto.

Eso es todo lo que necesita LiteLLM: tres valores, un /v1 y un id de modelo completo. Añade la clave de tu panel y ejecuta la pestaña de Python.