بلاگ پر واپس جائیں

لاگت کی بہتریموازنہ

DeepSeek مقامی طور پر چلائیں یا API استعمال کریں؟ ہارڈویئر، رفتار، لاگت

جانچیں کہ آپ کا GPU اور RAM DeepSeek V4-Flash چلا سکتے ہیں یا نہیں، کس رفتار کی توقع رکھیں، اور base_url تبدیل کرنا کب آسان ہے۔ لاگت کا ٹیبل شامل ہے۔

از CheapTokens Teamشائع شدہ اپ ڈیٹ کردہ 8 منٹ کا مطالعہ

دو کالم، Local اور API، اپنے ہارڈویئر پر DeepSeek چلانے کا base_url تبدیل کر کے ہوسٹڈ API کال کرنے سے موازنہ
اس صفحہ پر
  1. کیا DeepSeek آپ کی میموری میں فٹ ہوگا؟
  2. یہ کتنا تیز ہے؟
  3. API کے ذریعے اسی ورک لوڈ کا کتنا خرچ آتا ہے
  4. آپ کا اپنا ہارڈویئر کب فائدہ مند ہوتا ہے؟
  5. مقامی سے ہوسٹڈ API کی طرف منتقل ہونا
  6. اگر یہ کام نہ کرے
  7. کون سا منتخب کریں

شاید نہیں، جب تک کہ آپ کے پاس 128 GB RAM یا Mac Studio کلاس کی مشین نہ ہو، یا آپ کے پاس ہر ٹوکن اپنی ڈسک پر رکھنے کی کوئی وجہ نہ ہو۔ صرف ایک DeepSeek V4-Flash فائل تقریباً 100 GB ہے، اور ایک کمیونٹی گائیڈ کے مطابق مہنگی ہارڈویئر پر بھی تقریباً 6–10 ٹوکن فی سیکنڈ ملتے ہیں۔ زیادہ تر ایپس اور ایجنٹ لوپس کے لیے مختصر راستہ یہ ہے کہ OpenAI کلائنٹ کو کسی ہوسٹڈ API کی طرف اشارہ کریں: آپ base_url اور key تبدیل کرتے ہیں، اور آپ کے کوڈ میں کچھ اور نہیں۔

نیچے: پانچ منٹ میں اپنی مشین کیسے جانچیں، کس رفتار کی توقع رکھیں، اور API کے ذریعے ایک حقیقی ورک لوڈ کا کتنا خرچ آتا ہے۔

کیا DeepSeek آپ کی میموری میں فٹ ہوگا؟#

یہاں دیے گئے سائز DeepSeek کو مقامی طور پر چلانے کی ایک کمیونٹی گائیڈ سے لیے گئے ہیں (GitHub پر deepseek-local-guide-ru، 18 حصے، CC BY 4.0، 22 اکتوبر 2026 کو پڑھا گیا)۔ یہ غیر سرکاری ہے اور DeepSeek سے وابستہ نہیں۔ گائیڈ کے اپنے صفحات سائز کے بارے میں ایک دوسرے سے مکمل طور پر متفق نہیں، اس لیے 100 GB ڈاؤن لوڈ شروع کرنے سے پہلے Hugging Face ماڈل کارڈ پر فائل کا سائز تصدیق کر لیں۔

گائیڈ کے مطابق، DeepSeek V4-Flash-0731 میں 284B پیرامیٹرز ہیں، جن میں سے 13B فی ٹوکن فعال ہیں۔ فائلیں:

کوانٹائزیشن فائل کا سائز (گائیڈ کا عدد)
Q3 تقریباً 103 GB
Q4 تقریباً 155 GB
Q8 تقریباً 162 GB

ماڈل کا مکمل طور پر ویڈیو میموری میں رہنا ضروری نہیں۔ llama.cpp ماہر لیئرز کو سسٹم RAM میں رکھ سکتا ہے، لیکن گائیڈ کا اصول سادہ ہے: 24 GB GPU کے ساتھ 128 GB RAM درکار ہے۔

فرض کریں آپ کے پاس 24 GB GPU اور 64 GB RAM والا اچھا گیمنگ PC ہے۔ دونوں کو جمع کریں اور سب سے چھوٹی فائل سے موازنہ کریں:

24 + 64 = 88 GB، اور Q3 فائل 103 GB ہے۔

یہ فٹ نہیں ہوتی، اور آپریٹنگ سسٹم کو بھی اپنی میموری درکار ہوتی ہے۔ 24 GB VRAM اور 128 GB RAM کے ساتھ آپ کے پاس 152 GB ہوں گے، اور 103 GB فائل کافی جگہ کے ساتھ فٹ ہو جائے گی۔

نیا DeepSeek-V4.1-Flash-1017 بڑا ہے: تقریباً 552B پیرامیٹرز کے علاوہ 196B Engram، اسی گائیڈ کے مطابق FP8 میں تقریباً 510 GB اور 2-bit پر تقریباً 167 GB۔ سپورٹ دوسرا مسئلہ ہے۔ گائیڈ کے مطابق (22 اکتوبر 2026 کو جانچا گیا) یہ Ollama میں نہیں چلتا، کیونکہ deepseek_v41 آرکیٹیکچر سپورٹ نہیں ہے، اور llama.cpp اور LM Studio کی سپورٹ ان کی main برانچز میں نہیں ہے۔ یہ تیزی سے بدلتا ہے، اس لیے اس پر منصوبہ بندی کرنے سے پہلے اپنے انجن کے ریلیز نوٹس دیکھیں۔

یہ کتنا تیز ہے؟#

گائیڈ دو پیمائشیں دیتی ہے، دونوں بھاری کوانٹائزیشن پر اور دونوں کمیونٹی کے اعداد، اس لیے انہیں تخمینے کے طور پر پڑھیں نہ کہ بینچ مارک کے طور پر:

  • DGX Spark مع 128 GB، V4-Flash IQ2 پر: تقریباً 6–7 ٹوکن فی سیکنڈ۔
  • Mac Studio M3 Ultra مع 256 GB، V4.1-Flash MLX 2-bit میں: تقریباً 9.5 ٹوکن فی سیکنڈ۔

گائیڈ میں RTX 4090 یا 5090 کا کوئی عدد نہیں ہے۔

یہ کیسا محسوس ہوتا ہے؟ 1,000 ٹوکن کا جواب تقریباً ڈیڑھ صفحے متن کے برابر ہے:

1,000 ÷ 9.5 = 105.3 سیکنڈ

1,000 ÷ 6 = 166.7 سیکنڈ

اس چیٹ کے لیے جسے آپ اسٹریم ہوتے ہوئے پڑھتے ہیں، یہ سست لیکن قابل استعمال ہے۔ ایسے ایجنٹ کے لیے جو فی ٹاسک درجنوں کالز کرتا ہے، یہ تیزی سے بڑھ جاتا ہے۔ فرض کریں آپ کا لوپ روزانہ 2,000,000 آؤٹ پٹ ٹوکن پیدا کرتا ہے اور مشین واقعی بغیر رکے 9.5 ٹوکن فی سیکنڈ بناتی ہے:

2,000,000 ÷ 9.5 = 210,526 سیکنڈ

210,526 ÷ 3,600 = 58.5 گھنٹے

یہ ایک دن کے کام کے لیے ایک دن سے زیادہ جنریشن ہے۔ حقیقی سرورز کئی درخواستیں ایک ساتھ بیچ کرتے ہیں، اس لیے ٹیم کے لیے تصویر اتنی مایوس کن نہیں، لیکن آپ اپنی پروڈکٹ بنانے کے بجائے انجن ٹیون کر رہے ہوں گے۔

API کے ذریعے اسی ورک لوڈ کا کتنا خرچ آتا ہے#

آئیے مثال کو ٹھوس بناتے ہیں۔ فرض کریں ایک ایجنٹ لوپ روزانہ 10 ملین ان پٹ ٹوکن بھیجتا ہے اور 2 ملین آؤٹ پٹ ٹوکن واپس لیتا ہے۔ یہ فرضی اعداد ہیں، انہیں اپنے usage log سے اپنے اعداد سے بدل دیں۔

DeepSeek کے اپنے قیمتوں کے صفحے (22 اکتوبر 2026، صفحے پر خود کوئی تاریخ نہیں) میں deepseek-flash درج ہے، جو DeepSeek-V4.1-Flash-1017 کے ذریعے فراہم ہوتا ہے، ان قیمتوں پر فی 1M ٹوکن، آف-پیک / پیک: کیشے مس کے ساتھ ان پٹ $0.15 / $0.30، آؤٹ پٹ $0.60 / $1.20۔ پیک اوقات 01:00–04:00 اور 06:00–10:00 UTC ہیں، پیر سے جمعہ، چینی عوامی تعطیلات کے علاوہ؛ آف-پیک پیک کا نصف ہے۔ کیشے ہٹ ان پٹ کافی سستا ہے ($0.003 / $0.006)، اس لیے جو لوپ وہی طویل پری فکس دوبارہ بھیجتا ہے اس کا بل یہاں دیے گئے اعداد سے کم ہوگا۔

فرضی ورک لوڈ کے لیے، کیشے مس کے ساتھ:

آف-پیک: 10 × $0.15 + 2 × $0.60 = $2.70 فی دن

پیک: 10 × $0.30 + 2 × $1.20 = $5.40 فی دن

CheapTokens پر، اسی قسم کے ایجنٹ لوپ کے لیے، MiniMax-M2.7 (minimax-m2.7) لیں: کسی بھی وقت ایک مقررہ قیمت، کوئی پیک ونڈو نہیں، فی جواب زیادہ سے زیادہ 8,192 آؤٹ پٹ ٹوکن، 180K کانٹیکسٹ، اور تمام ماڈلز کے لیے ایک بیلنس۔ وہی 10M ان پٹ اور 2M آؤٹ پٹ ٹوکن روزانہ $0.80 کے ہیں۔ مجموعی طور پر، ان پٹ اور آؤٹ پٹ کو ملا کر گننے پر، یہ OpenRouter سے سستا ہے؛ بالکل اسی ورک لوڈ کے لیے لائیو ٹیبل یہ ہے:

ماڈل لاگت OpenRouter
GLM-5.3-Flash $0.28 $0.565
DeepSeek-V4-Flash $0.35 $0.789
MiniMax-M2.7 $0.80 $5.40

کل 10,000,000 ان پٹ اور 2,000,000 آؤٹ پٹ ٹوکنز۔ فی 1M ٹوکنز کی قیمتیں موجودہ ہیں اور ہمارے ٹیرف کے ساتھ تبدیل ہوتی ہیں؛ OpenRouter کالم اسی ورک لوڈ کے لیے حوالہ جاتی قیمتیں دکھاتا ہے۔

ٹیبل ہر بار دکھائے جانے پر موجودہ قیمت کی فہرست پڑھتا ہے، اس لیے قیمتیں بدلنے پر بھی یہ درست رہتا ہے۔ مکمل قیمت کی فہرست CheapTokens pricing page پر ہے، اور DeepSeek API pricing in 2026 بتاتا ہے کہ کیشے ہٹ اور پیک اوقات بل کو کیسے بدلتے ہیں۔

آپ کا اپنا ہارڈویئر کب فائدہ مند ہوتا ہے؟#

مقامی ٹوکنز کی فی درخواست کوئی قیمت نہیں، لیکن مشین کی ہے۔ جانچنے کا ایک آسان طریقہ:

text
payback days = hardware price ÷ (daily API bill − daily electricity)

میں یہاں ہارڈویئر کی قیمت نہیں دے رہا کیونکہ یہ بہت بدلتی ہے؛ وہی ڈالیں جو آپ کو بتائی گئی ہو۔ اندازہ لگانے کے لیے، اوپر DeepSeek کے قیمتوں کے صفحے سے آف-پیک بل لیں۔ ہر $1,000 ہارڈویئر کے لیے بجلی اور آپ کے اپنے وقت سے پہلے، API بل کے اتنے دن درکار ہیں کہ خرچ پورا ہو:

1,000 ÷ 2.70 = 370.4 دن

اور یہ فرض کرتا ہے کہ مشین یہ حجم بالکل دے سکتی ہے: 9.5 ٹوکن فی سیکنڈ پر یہ نہیں دے سکتی (اوپر رفتار کا حصہ دیکھیں)، اس لیے ایجنٹ ورک لوڈ کے لیے پے بیک کا حساب نہیں بنتا۔ مقامی زیادہ معنی خیز ہے جب:

  • ڈیٹا آپ کے نیٹ ورک سے باہر نہیں جانا چاہیے، اور یہ بل سے زیادہ اہم ہو؛
  • مشین پہلے سے آپ کی ملکیت ہو اور لوڈ ہلکا ہو، مثلاً کسی ذاتی ٹول کے لیے روزانہ چند سو درخواستیں؛
  • آپ خود ویٹس کے ساتھ تجربہ کرنا چاہیں: کوانٹائزیشن، فائن ٹیوننگ، اپنی پسند کا انجن۔

API زیادہ معنی خیز ہے جب ورک لوڈ کوئی ایجنٹ یا سروس ہو، جب آپ کو جواب سیکنڈوں میں درکار ہو، یا جب آپ کا ہارڈویئر اوپر دیے گئے میموری سائز سے کم ہو۔ اگر آپ کی مشین سب سے ہلکی DeepSeek فائل کے لیے بھی بہت چھوٹی ہے، تو MiniMax-M2.7 (180K کانٹیکسٹ، فی جواب زیادہ سے زیادہ 8,192 آؤٹ پٹ ٹوکن، مجموعی طور پر OpenRouter سے سستا) اسی کلائنٹ کے ذریعے آزمانے کے قابل ماڈل ہے۔

مقامی سے ہوسٹڈ API کی طرف منتقل ہونا#

شوقیہ پروجیکٹس اکثر Ollama پر شروع ہوتے ہیں اور پھر اس سے آگے بڑھ جاتے ہیں۔ اچھی خبر: مقامی انجن OpenAI پروٹوکول بولتے ہیں۔ Ollama کا compatibility صفحہ (docs.ollama.com، 22 اکتوبر 2026 کو جانچا گیا) endpoint http://localhost:11434/v1/ دکھاتا ہے؛ کلائنٹ کو کوئی api_key ویلیو درکار ہوتی ہے، لیکن Ollama اسے نظر انداز کرتا ہے۔ اسٹریمنگ، JSON موڈ اور ٹولز کام کرتے ہیں؛ logprobs نہیں۔

تو تبدیلی دو لائنیں اور ماڈل کا نام ہے:

python
import os
from openai import OpenAI

# Local Ollama: the key is required by the client but ignored by the server
# client = OpenAI(base_url="http://localhost:11434/v1/", api_key="ollama")

client = OpenAI(
    base_url="https://api.cheaptokens.dev/v1",
    api_key=os.environ["CHEAPTOKENS_API_KEY"],
)

reply = client.chat.completions.create(
    model="MiniMaxAI/MiniMax-M2.7",  # take the exact id from the CheapTokens docs
    messages=[{"role": "user", "content": "Summarize this ticket in one sentence: ..."}],
    max_tokens=200,
)
print(reply.choices[0].message.content)
print(reply.usage)

جب یہ کام کرتا ہے تو آپ ایک جملے کا خلاصہ اور usage آبجیکٹ دیکھتے ہیں جس میں prompt اور completion ٹوکن کی گنتی ہوتی ہے، وہی اعداد جن پر آپ کا بل بنتا ہے۔ CheapTokens API Anthropic Messages فارمیٹ بھی قبول کرتا ہے، اور docs پہلی درخواست مرحلہ وار دکھاتے ہیں۔ اگر base_url آپ کے لیے نیا ہے، تو OpenAI-compatible API: what base_url is دو منٹ لیتا ہے۔

اگر یہ کام نہ کرے#

  • localhost:11434 پر Connection refused: Ollama نہیں چل رہا، یا آپ اب بھی مقامی ایڈریس کی طرف اشارہ کر رہے ہیں۔
  • 401: key غائب ہے یا اسپیس کے ساتھ کاپی ہوئی ہے؛ اسے environment variable سے پڑھیں، جیسا کہ مثال میں ہے۔
  • 404 یا نامعلوم ماڈل: ماڈل id میل نہیں کھاتا۔ مقامی اور ہوسٹڈ نام مختلف ہوتے ہیں، اس لیے id docs سے کاپی کریں۔

کون سا منتخب کریں#

اگر آپ کے پاس 128 GB یا زیادہ ہے اور تجسس ہے، تو ویٹس گھر پر چلائیں اور کنٹرول کا مزہ لیں۔ اگر آپ ایسا ایجنٹ بناتے ہیں جو روزانہ لاکھوں ٹوکن جلاتا ہے، یا ایسی سروس جہاں صارفین جواب کا انتظار کرتے ہیں، تو API استعمال کریں اور مقامی سیٹ اپ تجربات کے لیے رکھیں۔ کوڈ دونوں صورتوں میں یکساں رہتا ہے، اس لیے آپ ایک سے شروع کر کے بعد میں دوسرے پر جا سکتے ہیں۔ سیلف ہوسٹنگ کے بارے میں مزید کے لیے what DeepInfer means for self-hosting دیکھیں؛ API کے ذریعے DeepSeek آزمانے کے لیے CheapTokens DeepSeek models دیکھیں۔