Nemotron Bolt E4B أم API مستضاف؟ اختر حسب السياق والمهمة

إذا كانت مهمتك تندرج ضمن 64,000 رمز وكانت بطاقة الرسوميات لديك تتسع لنموذج بحجم ~4 GB، فإن Nemotron 3.5 Bolt E4B من NVIDIA قادر على تشغيلها على جهازك. أما إذا كانت المهمة تحتاج نافذة أكبر، أو إجابة طويلة، أو إنجاز 20,000 عنصر اليوم، فإن النموذج المستضاف هو الطريق الأقصر. فيما يلي جدول يصنّف مهمتك، والحسابات الكامنة وراء كل صف.

يستخدم الجانب المستضاف من المقارنة النماذج الثلاثة على صفحة نماذج CheapTokens: DeepSeek-V4-Flash وGLM-5.3-Flash وMiniMax-M2.7.

ما نشرته NVIDIA، وما أغفلته#

تصف صفحة أبحاث NVIDIA الخاصة بـ Nemotron 3.5 Bolt E4B (صدر في 23 أكتوبر 2026، وتم التحقق منه في 5 نوفمبر) نموذجًا مبنيًا على Gemma 4 E4B ويُوزَّع كملف GGUF، بتكميم Q4_K_M، من أجل llama.cpp. تقول NVIDIA إنه يتسع في مساحة لا تقل عن 4 GB؛ أما ذاكرة VRAM التي قاستها فتراوحت بين 3.1 و5.0 GB (على حمل الاختبار الخاص بـ NVIDIA؛ مع نافذة كاملة بحجم 64K سيكون استهلاك الذاكرة أعلى، لذا تحقق على بطاقتك أنت). الأوزان متاحة على Hugging Face باسم nvidia/NVIDIA-Nemotron-3.5-Bolt-E4B-4GB وتأتي أيضًا عبر Ollama وLM Studio وUnsloth.

ثلاث حقائق تحسم معظم الخيارات:

• السياق: 64K رمز. تؤكد NVIDIA صراحةً أن النافذة تستوعب كل شيء دفعة واحدة: سجل المحادثة، والتعليمات، وتعريفات الأدوات، والنص المسترجع.
• اللغات: 35، من نموذج أساسي مُدرَّب مسبقًا على أكثر من 140.
• السرعة: في تشغيلات llama.cpp CUDA الخاصة بـ NVIDIA (Q4_K_M، حجم الدفعة 1) استخدمت بطاقة RTX 5070 بسعة 12 GB مقدار 3.5 GB من VRAM وأنتجت 133.4 رمزًا في الثانية. واستخدمت Jetson Orin Nano بسعة 8 GB مقدار 4.2 GB وأنتجت 15.5 رمزًا في الثانية. كلا الرقمين من حمل الاختبار الخاص بـ NVIDIA، لذا توقّع أن تختلف أرقامك.

تسرد الصفحة أيضًا درجات استخدام الأدوات (BFCL-v3 ‏68.5، وTau2-Bench ‏55.1) وRULER عند 64K بقيمة 87.0. هذه معايير المطوّر نفسه: فهي تخبرنا بما اختُبر عليه النموذج، لا كيف يقارن بنموذج مستضاف، لذا لا تصفّها هذه المقالة جنبًا إلى جنب.

ثمة أمران لا تذكرهما الصفحة: كم يمكن أن يبلغ طول الإجابة الواحدة، والترخيص. اقرأ كليهما على بطاقة النموذج في Hugging Face قبل أن تبني أي شيء عليه.

ما حجم 64K عندما يبدأ الوكيل بالعمل؟#

تخيّل النافذة كأنها مكتب. لا يستطيع النموذج العمل إلا بما هو موضوع عليه الآن، والسجل وتعليماتك وتعريفات الأدوات وأي نص مسترجع تتقاسم جميعها المكتب نفسه. إذن كم يبلغ حجم هذا المكتب عند 64K؟

هذه رواية قصيرة، لذا فإن محادثة أو بريدًا إلكترونيًا أو ترجمة تتسع بارتياح. يأتي الضيق من الوكلاء، لأن كل خطوة تُلقي بمخرجات أداتها على المكتب ولا يغادر شيء.

يتجاوز الوكلاء الحقيقيون هذا الأمر عبر تقليم الخطوات القديمة أو تلخيصها. ينجح ذلك، لكنه كود إضافي يجب كتابته وتصحيحه. أما جانب التكلفة من الحلقة نفسها فهو في تكلفة جلسة الوكيل: 50 خطوة على GLM أو DeepSeek أو MiniMax.

صنّف مهمتك: محلي أم مستضاف#

يُجاب عن السؤال نفسه لنموذج مفتوح كبير في تشغيل DeepSeek محليًا أو استخدام API. أما لنموذج بحجم 4 GB فتعتمد الإجابة على المهمة، لذا صنّف المهمة أولًا وثبّت بعد ذلك.

تأتي أعمدة الاستضافة من قائمة نماذج CheapTokens. يمتلك DeepSeek-V4-Flash سياقًا بحجم 380K، وحتى 32,768 رمز مخرجات لكل إجابة، وسعرًا واحدًا في أي ساعة. ويمتلك GLM-5.3-Flash سياقًا بحجم 390K وحتى 8,192 رمز مخرجات. ويمتلك MiniMax-M2.7 سياقًا بحجم 180K، وحتى 8,192 رمز مخرجات، ويناسب الأعمال الوكيلية والبرمجية عبر API.

ثمة صف لا يستطيع الجدول التقاطه: إذا كان النص يجب ألا يغادر جهازك أبدًا، فإن ذلك يحسم الأمر لصالح المحلي.

المهام بالجملة: ساعات من وقت GPU أو فاتورة صغيرة#

لنفترض أنك تصنّف 20,000 تذكرة دعم. كل واحدة منها نحو 600 رمز إدخالًا و50 رمزًا تصنيفًا إخراجًا.

الإجماليات: 20,000 × 600 = 12,000,000 رمز إدخال و20,000 × 50 = 1,000,000 رمز إخراج.

توليد تلك المليون رمز بسرعات NVIDIA المقاسة يستغرق 1,000,000 ÷ 133.4 = 7,496 ثانية (نحو 2.1 ساعة) على RTX 5070 و1,000,000 ÷ 15.5 = 64,516 ثانية (نحو 17.9 ساعة) على Jetson Orin Nano. وهذا يحتسب التوليد فقط: قراءة الـ 12 مليون رمز إدخال تأتي إضافةً إلى ذلك، وكذلك الكهرباء التي تستهلكها البطاقة طوال الوقت.

الجانب المستضاف من المهمة نفسها، بالأسعار الحالية:

يسعّر الجدول المهمة على كل نموذج، مع عمود OpenRouter. إجمالًا، مع احتساب الإدخال والإخراج معًا، يخرج كل منها أرخص من OpenRouter. على DeepSeek-V4-Flash مثلًا، تُحتسب الـ 1,000,000 رمز إخراج بسعر $0.10 لكل 1M.

مهمتك على الأرجح ليست 20,000 تذكرة. ضع أرقامك أنت:

الآن لديك الجانبان بالوحدات نفسها: ساعات من جهاز تملكه مقابل دولارات على جدول حيّ.

المستندات الطويلة والإجابات الطويلة#

خذ حزمة عقود بحجم 120,000 رمز. إنها أكبر من 64,000، لذا سيحتاج Bolt E4B المحلي إلى تقطيع الحزمة إلى أجزاء، والسؤال عنها جزءًا جزءًا، ثم وصل الإجابات معًا. على نافذة بحجم 380K تدخل كطلب واحد: مع إجابة بحجم 2,000 رمز يكون ذلك $0.002 بالأسعار الحالية. أي نموذج يناسب مستندًا بحجم 100K رمز يستعرض حدود السياق والمخرجات نموذجًا بنموذج.

الإجابات الطويلة هي الحد الآخر. يستطيع DeepSeek-V4-Flash كتابة ما يصل إلى 32,768 رمزًا في إجابة واحدة، وبنفس القاعدة التقريبية ¾ كلمة لكل رمز (افتراض) 32,768 × 0.75 = 24,576 كلمة، وهو تقرير طويل أو ملف كود كامل. لا تذكر صفحة NVIDIA حدًا أقصى لـ Bolt E4B، لذا قبل أن تخطط لمخرجات بحجم 10,000 رمز محليًا، اختبر ما يعيده وقت التشغيل لديك فعليًا.

التوجيه حسب الحجم: الكود نفسه، وجهتان#

لا يلزمك اختيار واحد إلى الأبد. أبقِ النموذج الصغير للمهام الصغيرة وأرسل الكبيرة إلى نموذج مستضاف. إذا كانت أداتك تتحدث بالفعل إلى نقطة نهاية متوافقة مع OpenAI، فالتبديل هو عنوان أساسي ومفتاح ومعرّف نموذج كامل.

import os
from openai import OpenAI

hosted = OpenAI(
    base_url='https://api.cheaptokens.dev/v1',
    api_key=os.environ['CHEAPTOKENS_API_KEY'],
)

def too_big_for_local(text: str, limit: int = 60_000) -> bool:
    return len(text) // 4 > limit  # rough: about 4 characters per token in English

document = open('contract.txt', encoding='utf-8').read()
if too_big_for_local(document):
    resp = hosted.chat.completions.create(
        model='deepseek-ai/DeepSeek-V4-Flash-0731',
        messages=[{'role': 'user', 'content': 'List the termination clauses:\n\n' + document}],
        max_tokens=2000,
    )
    print(resp.choices[0].message.content)
    print(resp.usage)

حد الـ 60,000 يترك مساحة تحت نافذة 64K للتعليمات والإجابة. عندما ينجح الطلب ترى نص الإجابة، ثم كائن usage يحتوي على prompt_tokens وcompletion_tokens: اضرب هذين في الأسعار على صفحة التسعير لتحصل على تكلفة الطلب. خطوات الطلب الأول موجودة في التوثيق.

ابدأ بصف الجدول الذي يطابق مهمتك. إذا قال محلي، فنزّل ملف GGUF وقِس رموزك في الثانية بنفسك قبل أن تخطط بناءً على أرقام أي شخص آخر.