Özel base_url ile LangChain ChatOpenAI: Python'da CheapTokens

Zaten ChatOpenAI ile konuşan bir LangChain zinciriniz var ve onu yeniden yazmadan başka bir uç noktada çalıştırmak istiyorsunuz. Şunları yapabilirsiniz: üç argüman geçirin, base_url, api_key ve model, zincirin geri kalanı olduğu gibi kalır. CheapTokens, https://api.cheaptokens.dev/v1 adresinde OpenAI Chat Completions protokolünü konuşur, bu yüzden ChatOpenAI doğrudan onunla çalışır.

Aşağıdaki adımlar, 27 Ekim 2026 itibarıyla kontrol edilen LangChain ChatOpenAI belgelerini izler. Sayfada tarih veya sürüm belirtilmiyor, bu yüzden burada bir langchain-openai sürümü sabitlemiyorum: en son sürümü kurun.

pip install -U langchain-openai

export CHEAPTOKENS_API_KEY="your-key"

import os
from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    model="deepseek-ai/DeepSeek-V4-Flash-0731",
    base_url="https://api.cheaptokens.dev/v1",
    api_key=os.environ["CHEAPTOKENS_API_KEY"],
)

msg = llm.invoke("Explain what a token is in one sentence.")
print(msg.content)

invoke() bir mesaj döndürür; .content yanıt metnidir. Bağlantı bundan ibaret. CheapTokens belgelerinden bir anahtar alın ve bakiyeyi yükleyin.

model içine hangi model kimliği girer#

Geliştirici önekiyle birlikte tam kimliği kullanın. deepseek-v4-flash gibi kısa bir ad, fiyat tablolarında gördüğünüz şeydir; API deepseek-ai/DeepSeek-V4-Flash-0731 alır. CheapTokens model listesindeki kimlikler:

• deepseek-ai/DeepSeek-V4-Flash-0731: 380K bağlam, yanıt başına en fazla 32.768 çıktı token'ı. Uzun belgeler ve uzun yanıtlar içeren zincirler için iyi bir varsayılan.
• zai-org/GLM-5.3-Flash: 390K bağlam, en fazla 8.192 çıktı token'ı.
• MiniMaxAI/MiniMax-M2.7: 180K bağlam, en fazla 8.192 çıktı token'ı.

Geçiş yapmak tek satırlık bir değişikliktir, çünkü model yalnızca bir dizedir:

llm = ChatOpenAI(
    model="zai-org/GLM-5.3-Flash",
    base_url="https://api.cheaptokens.dev/v1",
    api_key=os.environ["CHEAPTOKENS_API_KEY"],
)

Üçü de tek bir bakiyeyi paylaşır, böylece yeni bir şey açmadan her birini aynı zincirde deneyebilirsiniz. Güncel fiyatlar fiyatlandırma sayfasındadır; MiniMax-M2.7 için 1M token başına giriş $0.05 ve çıkış $0.15'dir.

base_url'yi ortam üzerinden ayarlama#

Koda dokunmak istemiyorsanız, LangChain adresi ortamdan okur. Belgeler öncelik sırasını verir:

1. kodda geçirdiğiniz base_url (veya openai_api_base) argümanı;
2. LangChain'in okuduğu OPENAI_API_BASE;
3. openai SDK'sının okuduğu OPENAI_BASE_URL.

Aynı belge sayfasından bir yan etki: OPENAI_BASE_URL ayarlandığında, LangChain stream_usage öğesini varsayılan olarak kapalı bırakır. Bu, sonraki iki bölümde önemlidir.

Yanıtı akış olarak alma#

Bir kullanıcı arayüzü için metni geldikçe istersiniz. stream() parçalar üretir ve her parçanın bir .content kısmı vardır:

for chunk in llm.stream("Write a three-line summary of how HTTP works."):
    print(chunk.content, end="", flush=True)

Bu bir sohbet penceresi için yeterlidir. Bir akışın sonunda token sayısını da istiyorsanız, stream_usage=True geçirin: ChatOpenAI(..., stream_usage=True). Bu kılavuz, sonraki bölümde olduğu gibi, token'ları invoke() üzerinden sayar. Düz OpenAI SDK'sında akış, Python'da akış yanıtları bölümünde ele alınmıştır.

Çağrı başına token kullanımını okuma#

invoke() tarafından döndürülen her mesaj, çağrının kullandığı token'larla birlikte usage_metadata taşır:

msg = llm.invoke("Summarize this ticket in one line: my invoice shows the wrong VAT number.")
print(msg.usage_metadata)
# {'input_tokens': ..., 'output_tokens': ..., 'total_tokens': ...}

Bunları bir işlem hattı boyunca toplayın, çalıştırma başına bir bütçeniz olur:

total_in = total_out = 0
for ticket in tickets:
    msg = llm.invoke(ticket)
    total_in += msg.usage_metadata["input_tokens"]
    total_out += msg.usage_metadata["output_tokens"]

Giriş ve çıkış ayrı fiyatlandırılır, bu yüzden her iki sayıyı da tutun. Bu ayrımın neden var olduğu Giriş ve çıkış token'ları bölümünde, bütçede durma koruması olan tam bir izleyici ise Python'da AI ajanı token maliyetini izleme bölümündedir.

Bir LangChain işlem hattının günlük maliyeti#

Diyelim ki günde 2.000 bilet işleyen bir destek botu çalıştırıyorsunuz. Her çağrı bileti artı bir istemi, yaklaşık 3.000 token gönderir ve yanıt yaklaşık 500 token'dır. MiniMax-M2.7 üzerinde böyle bir çağrı $0.00023 tutar. Kaydırıcıları kendi sayılarınıza taşıyın; site bunu güncel fiyatlarla toplar:

Hesaplayıcı günlük toplamı gösterir: bu tür bir çağrıda token'ların büyük kısmı giriştir, çıkış ise daha küçük kısımdır. CheapTokens ile toplam, giriş ve çıkış birlikte sayıldığında, OpenRouter'ınkinden daha düşük çıkar ve fiyat her saat aynıdır: planlama yapmanız gereken yoğun saat ücretleri yoktur.

Bu kılavuzun kapsamı#

Örnek düz sohbet tamamlamalarını kullanır: invoke, stream ve usage_metadata. ChatOpenAI OpenAI spesifikasyonunu izler, bu yüzden yanıt metni .content içindedir. LangChain'in belgelerine göre, yerleşik araçları veya reasoning parametresini kullandığınızda Responses API'sine geçer.

Bir çağrı başarısız olursa, nedeni genellikle üç şeyden biridir: base_url içinde /v1 eksik olması, tam kimlik yerine kısa bir model kimliği kullanılması veya Python'u çalıştıran kabukta anahtar değişkeninin dışa aktarılmamış olması. Yaygın bağlantı hataları listesi her birinin nasıl göründüğünü gösterir.

Sonraki adım: yukarıdaki üç adımlı bloğu kendi zincirinizle çalıştırın, ardından aynı zinciri farklı bir model kimliğiyle OpenAI uyumlu uç noktalar üzerinde deneyin.