LangChain ChatOpenAI avec un base_url personnalisé : CheapTokens en Python

Vous avez déjà une chaîne LangChain qui dialogue avec ChatOpenAI, et vous voulez qu'elle tourne sur un autre endpoint sans la réécrire. C'est possible : passez trois arguments, base_url, api_key et model, et le reste de la chaîne reste inchangé. CheapTokens parle le protocole OpenAI Chat Completions sur https://api.cheaptokens.dev/v1, donc ChatOpenAI fonctionne directement avec.

Les étapes ci-dessous suivent la doc LangChain ChatOpenAI telle que vérifiée le 27 octobre 2026. La page n'affiche ni date ni version, je ne fige donc pas de release langchain-openai ici : installez la dernière.

pip install -U langchain-openai

export CHEAPTOKENS_API_KEY="your-key"

import os
from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    model="deepseek-ai/DeepSeek-V4-Flash-0731",
    base_url="https://api.cheaptokens.dev/v1",
    api_key=os.environ["CHEAPTOKENS_API_KEY"],
)

msg = llm.invoke("Explain what a token is in one sentence.")
print(msg.content)

invoke() renvoie un message ; .content est le texte de la réponse. C'est toute la connexion. Obtenez une clé et rechargez le solde dans la doc CheapTokens.

Quel id de modèle mettre dans model#

Utilisez l'id complet, avec le préfixe du développeur. Un nom court comme deepseek-v4-flash est ce que vous voyez dans les tableaux de prix ; l'API attend deepseek-ai/DeepSeek-V4-Flash-0731. Les ids de la liste de modèles CheapTokens :

• deepseek-ai/DeepSeek-V4-Flash-0731 : contexte de 380K, jusqu'à 32 768 tokens de sortie par réponse. Un bon choix par défaut pour les chaînes avec de longs documents et de longues réponses.
• zai-org/GLM-5.3-Flash : contexte de 390K, jusqu'à 8 192 tokens de sortie.
• MiniMaxAI/MiniMax-M2.7 : contexte de 180K, jusqu'à 8 192 tokens de sortie.

Changer de modèle tient en une ligne, car le modèle n'est qu'une chaîne :

llm = ChatOpenAI(
    model="zai-org/GLM-5.3-Flash",
    base_url="https://api.cheaptokens.dev/v1",
    api_key=os.environ["CHEAPTOKENS_API_KEY"],
)

Les trois partagent un même solde, vous pouvez donc essayer chacun sur la même chaîne sans rien ouvrir de nouveau. Les prix actuels sont sur la page tarifs ; pour MiniMax-M2.7, l'entrée est à $0.05 et la sortie à $0.15 par million de tokens.

Définir base_url via l'environnement#

Si vous préférez ne pas toucher au code, LangChain lit l'adresse depuis l'environnement. La doc donne l'ordre de priorité :

1. l'argument base_url (ou openai_api_base) que vous passez dans le code ;
2. OPENAI_API_BASE, que LangChain lit ;
3. OPENAI_BASE_URL, que lit le SDK openai.

Un effet de bord issu de la même page de doc : quand OPENAI_BASE_URL est défini, LangChain laisse stream_usage désactivé par défaut. Cela compte dans les deux sections suivantes.

Diffuser la réponse en streaming#

Pour une UI, vous voulez le texte au fur et à mesure. stream() produit des chunks, et chaque chunk contient un morceau .content :

for chunk in llm.stream("Write a three-line summary of how HTTP works."):
    print(chunk.content, end="", flush=True)

Cela suffit pour une fenêtre de chat. Si vous voulez aussi le nombre de tokens à la fin d'un stream, passez stream_usage=True : ChatOpenAI(..., stream_usage=True). Ce guide compte les tokens depuis invoke(), comme dans la section suivante. Le streaming dans le SDK OpenAI simple est traité dans Streaming responses in Python.

Lire l'usage de tokens par appel#

Chaque message renvoyé par invoke() porte usage_metadata avec les tokens consommés par l'appel :

msg = llm.invoke("Summarize this ticket in one line: my invoice shows the wrong VAT number.")
print(msg.usage_metadata)
# {'input_tokens': ..., 'output_tokens': ..., 'total_tokens': ...}

Additionnez-les sur un pipeline et vous obtenez un budget par exécution :

total_in = total_out = 0
for ticket in tickets:
    msg = llm.invoke(ticket)
    total_in += msg.usage_metadata["input_tokens"]
    total_out += msg.usage_metadata["output_tokens"]

L'entrée et la sortie sont facturées séparément, gardez donc les deux nombres. La raison de cette séparation est expliquée dans Input vs output tokens, et un tracker complet avec garde-fou d'arrêt au budget se trouve dans Track AI agent token cost in Python.

Combien coûte un pipeline LangChain par jour#

Supposez un bot de support avec 2 000 tickets par jour. Chaque appel envoie le ticket plus un prompt, environ 3 000 tokens, et la réponse fait environ 500 tokens. Sur MiniMax-M2.7, un tel appel coûte $0.00023. Déplacez les curseurs vers vos propres chiffres ; le site calcule le total aux prix actuels :

Le calculateur affiche le total journalier : dans ce type d'appel, l'entrée constitue le gros des tokens et la sortie la plus petite part. Avec CheapTokens, le total, entrée et sortie comptées ensemble, ressort inférieur à celui d'OpenRouter, et le prix est le même à toute heure : pas de tarifs de pointe à anticiper.

Ce que couvre ce guide#

L'exemple utilise de simples chat completions : invoke, stream et usage_metadata. ChatOpenAI suit la spec OpenAI, donc le texte de la réponse est dans .content. D'après la doc LangChain, il bascule sur l'API Responses quand vous utilisez des outils intégrés ou le paramètre reasoning.

Si un appel échoue, la cause est généralement l'une de trois choses : /v1 absent de base_url, un id de modèle court au lieu du complet, ou la variable de clé non exportée dans le shell qui lance Python. La liste des erreurs de connexion courantes montre à quoi ressemble chacune.

Étape suivante : exécutez le bloc en trois étapes ci-dessus avec votre propre chaîne, puis essayez la même chaîne sur des endpoints compatibles OpenAI avec un autre id de modèle.