LiteLLM مع api_base مخصص: استدعاء CheapTokens في Python

لإرسال LiteLLM إلى CheapTokens تغيّر ثلاث قيم: model يأخذ البادئة openai/ أمام معرّف النموذج الكامل، وapi_base يصبح https://api.cheaptokens.dev/v1، وapi_key هو مفتاح CheapTokens الخاص بك. هذا هو التبديل كله، سواء لـ litellm.completion() في Python أو لوكيل LiteLLM.

لنفترض أن لديك مشروعًا يستدعي litellm.completion() بنموذج OpenAI أو Anthropic، وتريد تجربة نموذج أرخص دون المساس ببقية الكود. البادئة هي ما يجعل ذلك يعمل: تقول وثائق مزوّد OpenAI المتوافق في LiteLLM (تم التحقق في 29 أكتوبر 2026) إنه لأي نقطة نهاية متوافقة مع OpenAI تضبط النموذج بـ openai/ حتى يوجّه LiteLLM الطلب إلى مزوّد OpenAI، ثم تمرّر api_base وapi_key بجانبه. يتحدث CheapTokens بصيغة OpenAI Chat Completions على https://api.cheaptokens.dev/v1، لذا فهو مناسب.

الاستدعاء نفسه في Python وفي الوكيل#

الإعدادان قصيران. اختر التبويب الذي يطابق طريقة تشغيلك لـ LiteLLM.

import os
import litellm

response = litellm.completion(
    model="openai/deepseek-ai/DeepSeek-V4-Flash-0731",
    api_base="https://api.cheaptokens.dev/v1",
    api_key=os.environ["CHEAPTOKENS_API_KEY"],
    messages=[{"role": "user", "content": "Explain what api_base does in one sentence."}],
    max_tokens=200,
)

print(response.choices[0].message.content)
print(response.usage)

model_list:
  - model_name: cheap-chat
    litellm_params:
      model: openai/deepseek-ai/DeepSeek-V4-Flash-0731
      api_base: https://api.cheaptokens.dev/v1
      api_key: os.environ/CHEAPTOKENS_API_KEY

curl http://localhost:4000/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model": "cheap-chat", "messages": [{"role": "user", "content": "Say hi"}]}'

معرّف النموذج هو الجزء الذي يتعثر فيه الناس. المعرّف الذي يقبله CheapTokens هو الكامل، deepseek-ai/DeepSeek-V4-Flash-0731، وopenai/ يأتي أمامه. ليس deepseek-v4-flash، وليس مجرد البادئة مع اسم قصير. إن لم تكن متأكدًا من اسم النموذج، اعرض النماذج بـ GET /v1/models وانسخ المعرّف من الرد.

ما الذي يجب أن تراه#

شغّل تبويب Python. يُظهر print الأول نص النموذج. ويُظهر الثاني response.usage، عدد الرموز لهذا الاستدعاء الواحد: prompt_tokens لما أرسلته وcompletion_tokens لما كتبه النموذج. يعيدها LiteLLM بصيغة OpenAI، لذا يستمر الكود الذي يقرأ usage في العمل. إن أردت تحويل هذين الرقمين إلى فاتورة جارية، يُظهر تتبع تكلفة رموز الوكيل في Python كيف.

إضافة المزيد من النماذج إلى الوكيل#

فكرة model_name هي أن يحتفظ عملاؤك باسم مستعار واحد بينما تغيّر ما يقف خلفه. يمكن لـ model_list أن يحمل عدة إدخالات، كلها تشير إلى نفس api_base ونفس المفتاح، لأن رصيد CheapTokens واحد يغطي كل النماذج:

model_list:
  - model_name: cheap-chat
    litellm_params:
      model: openai/deepseek-ai/DeepSeek-V4-Flash-0731
      api_base: https://api.cheaptokens.dev/v1
      api_key: os.environ/CHEAPTOKENS_API_KEY
  - model_name: cheap-glm
    litellm_params:
      model: openai/zai-org/GLM-5.3-Flash
      api_base: https://api.cheaptokens.dev/v1
      api_key: os.environ/CHEAPTOKENS_API_KEY
  - model_name: cheap-minimax
    litellm_params:
      model: openai/MiniMaxAI/MiniMax-M2.7
      api_base: https://api.cheaptokens.dev/v1
      api_key: os.environ/CHEAPTOKENS_API_KEY

أي اسم مستعار لأي مهمة؟ لاستدعاءات الدردشة والوكلاء حيث قد تطول الإجابة، ابدأ بـ DeepSeek-V4-Flash: سياق 380K، وحتى 32,768 رمز إخراج لكل إجابة، وسعر ثابت بلا ساعات ذروة. يمتلك GLM-5.3-Flash سياقًا 390K وحتى 8,192 رمز إخراج. ويمتلك MiniMax-M2.7 سياقًا 180K. تحتوي صفحة DeepSeek على التفاصيل، وتُدرج الأسعار المعدلات الحالية للثلاثة.

عندما يتعطل: Not Found و401#

يغطي خطآن معظم الاستدعاءات الأولى الفاشلة. تقول وثائق LiteLLM ألا تضيف أي شيء إضافي إلى عنوان URL الأساسي، وأنه عند خطأ Not Found يجب أن تتحقق من أن api_base ينتهي بـ /v1. ملاحظة واحدة: مثال الوثائق نفسه لوكيل محلي يستخدم http://0.0.0.0:4000 بلا /v1. ذلك خادم مختلف. بالنسبة لـ CheapTokens يبقى /v1.

للاطلاع على الشرح الكامل لرموز الحالة راجع API 401 أو 404: مفتاح أو عنوان URL أساسي أو معرّف نموذج خاطئ. إن أردت الفكرة وراء api_base أولًا، يشرحها ما هو base_url وكيف تبدّل بالنسخة المبسطة.

تكلفة ألف استدعاء#

افترض أن روبوت دعم خلف الوكيل يرسل 1,000 طلب يوميًا، كل منها بنحو 2,000 رمز إدخال (السؤال مع السياق) و500 رمز إخراج. إليك هذا الحمل على الأسعار الحية، مع عمود OpenRouter للمقارنة بالإجمالي، مع احتساب الإدخال والإخراج معًا:

بالنسبة لـ DeepSeek-V4-Flash يكلف هذا الحمل $0.08 يوميًا، ويُظهر الجدول أنه أرخص من OpenRouter إجمالًا. غيّر الرقمين إلى متوسط طلبك الخاص وستحصل على ميزانيتك.

هذا كل ما يحتاجه LiteLLM: ثلاث قيم، و/v1 واحد، ومعرّف نموذج كامل. أضف المفتاح من لوحة التحكم لديك وشغّل تبويب Python.