LiteLLM avec un api_base personnalisé : appeler CheapTokens en Python

Pour envoyer LiteLLM vers CheapTokens, vous modifiez trois valeurs : model reçoit le préfixe openai/ devant l'id complet du modèle, api_base devient https://api.cheaptokens.dev/v1, et api_key est votre clé CheapTokens. C'est tout le basculement, aussi bien pour litellm.completion() en Python que pour un proxy LiteLLM.

Supposez que vous avez déjà un projet qui appelle litellm.completion() avec un modèle OpenAI ou Anthropic, et que vous voulez en essayer un moins cher sans toucher au reste du code. Le préfixe est ce qui fait fonctionner le tout : la documentation du fournisseur compatible OpenAI de LiteLLM (vérifiée le 29 octobre 2026) indique que pour tout endpoint compatible OpenAI, vous définissez le modèle avec openai/ afin que LiteLLM route vers le fournisseur OpenAI, puis vous passez api_base et api_key à côté. CheapTokens parle le format OpenAI Chat Completions à https://api.cheaptokens.dev/v1, donc cela convient.

Le même appel en Python et dans un proxy#

Les deux configurations sont courtes. Choisissez l'onglet qui correspond à votre façon d'exécuter LiteLLM.

import os
import litellm

response = litellm.completion(
    model="openai/deepseek-ai/DeepSeek-V4-Flash-0731",
    api_base="https://api.cheaptokens.dev/v1",
    api_key=os.environ["CHEAPTOKENS_API_KEY"],
    messages=[{"role": "user", "content": "Explain what api_base does in one sentence."}],
    max_tokens=200,
)

print(response.choices[0].message.content)
print(response.usage)

model_list:
  - model_name: cheap-chat
    litellm_params:
      model: openai/deepseek-ai/DeepSeek-V4-Flash-0731
      api_base: https://api.cheaptokens.dev/v1
      api_key: os.environ/CHEAPTOKENS_API_KEY

curl http://localhost:4000/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model": "cheap-chat", "messages": [{"role": "user", "content": "Say hi"}]}'

L'id du modèle est la partie sur laquelle les gens trébuchent. L'id que CheapTokens accepte est le complet, deepseek-ai/DeepSeek-V4-Flash-0731, et openai/ se place devant. Pas deepseek-v4-flash, pas seulement le préfixe plus un nom court. Si vous n'êtes pas sûr du nom d'un modèle, listez les modèles avec GET /v1/models et copiez l'id depuis la réponse.

Ce que vous devriez voir#

Exécutez l'onglet Python. Le premier print affiche le texte du modèle. Le second affiche response.usage, les comptes de tokens pour cet appel : prompt_tokens pour ce que vous avez envoyé et completion_tokens pour ce que le modèle a écrit. LiteLLM les renvoie au format OpenAI, donc le code qui lit déjà usage continue de fonctionner. Si vous voulez transformer ces deux nombres en facture courante, suivre le coût en tokens d'un agent en Python montre comment faire.

Ajouter d'autres modèles au proxy#

L'intérêt de model_name est que vos clients gardent un seul alias pendant que vous changez ce qui se trouve derrière. Un model_list peut contenir plusieurs entrées, toutes pointant vers le même api_base et la même clé, car un seul solde CheapTokens couvre tous les modèles :

model_list:
  - model_name: cheap-chat
    litellm_params:
      model: openai/deepseek-ai/DeepSeek-V4-Flash-0731
      api_base: https://api.cheaptokens.dev/v1
      api_key: os.environ/CHEAPTOKENS_API_KEY
  - model_name: cheap-glm
    litellm_params:
      model: openai/zai-org/GLM-5.3-Flash
      api_base: https://api.cheaptokens.dev/v1
      api_key: os.environ/CHEAPTOKENS_API_KEY
  - model_name: cheap-minimax
    litellm_params:
      model: openai/MiniMaxAI/MiniMax-M2.7
      api_base: https://api.cheaptokens.dev/v1
      api_key: os.environ/CHEAPTOKENS_API_KEY

Quel alias pour quel usage ? Pour les appels de chat et d'agent où la réponse peut être longue, DeepSeek-V4-Flash est celui par lequel commencer : 380K de contexte, jusqu'à 32 768 tokens de sortie par réponse, et un prix fixe sans heures de pointe. GLM-5.3-Flash a un contexte de 390K et jusqu'à 8 192 tokens de sortie. MiniMax-M2.7 a un contexte de 180K. La page DeepSeek contient les détails, et la tarification liste les tarifs actuels pour les trois.

Quand ça casse : Not Found et 401#

Deux erreurs couvrent la plupart des premiers appels échoués. La documentation LiteLLM indique de ne rien ajouter d'extra à l'URL de base, et qu'en cas d'erreur Not Found, vous devez vérifier que api_base se termine par /v1. Un piège : l'exemple de la documentation pour un proxy local utilise http://0.0.0.0:4000 sans /v1. C'est un autre serveur. Pour CheapTokens, le /v1 reste.

Pour le parcours complet des codes de statut, voir API 401 ou 404 : mauvaise clé, URL de base ou id de modèle. Si vous voulez d'abord l'idée derrière api_base, ce qu'est base_url et comment basculer l'explique en langage simple.

Combien coûtent mille appels#

Supposez qu'un bot de support derrière le proxy envoie 1 000 requêtes par jour, chacune avec environ 2 000 tokens en entrée (la question plus le contexte) et 500 tokens en sortie. Voici cette charge aux tarifs actuels, avec une colonne OpenRouter pour comparer au total, entrée et sortie comptées ensemble :

Pour DeepSeek-V4-Flash, cette charge coûte $0.08 par jour, et le tableau montre que c'est moins cher qu'OpenRouter au total. Remplacez les deux nombres par votre propre requête moyenne et vous avez votre budget.

C'est tout ce dont LiteLLM a besoin : trois valeurs, un /v1, et un id de modèle complet. Ajoutez la clé depuis votre tableau de bord et exécutez l'onglet Python.