DeepSeek स्थानीय रूप से चलाएँ या API का उपयोग करें? हार्डवेयर, गति, लागत

शायद नहीं, जब तक कि आपके पास 128 GB RAM या Mac Studio-श्रेणी की मशीन न हो, या आपके पास हर टोकन को अपनी डिस्क पर रखने का कोई कारण न हो। अकेले DeepSeek V4-Flash फ़ाइल लगभग 100 GB है, और एक सामुदायिक गाइड बताती है कि महँगे हार्डवेयर पर भी लगभग 6–10 टोकन प्रति सेकंड मिलते हैं। अधिकांश ऐप्स और एजेंट लूप के लिए छोटा रास्ता यह है कि OpenAI क्लाइंट को होस्टेड API की ओर इंगित करें: आप base_url और कुंजी बदलते हैं, और आपके कोड में कुछ और नहीं।

नीचे: पाँच मिनट में अपनी मशीन की जाँच कैसे करें, किस गति की अपेक्षा करें, और API के माध्यम से एक वास्तविक वर्कलोड की लागत क्या है।

क्या DeepSeek आपकी मेमोरी में फ़िट होगा?#

यहाँ दिए गए आकार DeepSeek को स्थानीय रूप से चलाने की एक सामुदायिक गाइड से हैं (GitHub पर deepseek-local-guide-ru, 18 भाग, CC BY 4.0, 22 अक्टूबर 2026 को पढ़ा गया)। यह अनौपचारिक है और DeepSeek से संबद्ध नहीं है। गाइड के अपने पृष्ठ आकारों पर एक-दूसरे से पूरी तरह सहमत नहीं हैं, इसलिए 100 GB डाउनलोड शुरू करने से पहले Hugging Face मॉडल कार्ड पर फ़ाइल का आकार जाँच लें।

गाइड के अनुसार, DeepSeek V4-Flash-0731 में 284B पैरामीटर हैं, जिनमें से प्रति टोकन 13B सक्रिय हैं। फ़ाइलें:

मॉडल को पूरी तरह वीडियो मेमोरी में रखना ज़रूरी नहीं है। llama.cpp विशेषज्ञ परतों को सिस्टम RAM में रख सकता है, लेकिन गाइड का अनुभव-नियम स्पष्ट है: 24 GB GPU के साथ 128 GB RAM चाहिए।

मान लें कि आपके पास 24 GB GPU और 64 GB RAM वाला अच्छा गेमिंग PC है। दोनों को जोड़ें और सबसे छोटी फ़ाइल से तुलना करें:

24 + 64 = 88 GB, और Q3 फ़ाइल 103 GB है।

यह फ़िट नहीं होता, और ऑपरेटिंग सिस्टम को भी अपनी मेमोरी चाहिए। 24 GB VRAM और 128 GB RAM के साथ आपके पास 152 GB है, और 103 GB फ़ाइल बची जगह के साथ फ़िट हो जाती है।

नया DeepSeek-V4.1-Flash-1017 बड़ा है: लगभग 552B पैरामीटर और 196B Engram, उसी गाइड के अनुसार FP8 में लगभग 510 GB और 2-बिट पर लगभग 167 GB। समर्थन दूसरी समस्या है। गाइड के अनुसार (22 अक्टूबर 2026 को जाँचा गया) यह Ollama में नहीं चलता, क्योंकि deepseek_v41 आर्किटेक्चर समर्थित नहीं है, और llama.cpp तथा LM Studio का समर्थन उनकी मुख्य शाखाओं में नहीं है। यह तेज़ी से बदलता है, इसलिए इसके आधार पर योजना बनाने से पहले अपने इंजन के रिलीज़ नोट्स देखें।

यह कितना तेज़ है?#

गाइड दो माप देती है, दोनों भारी क्वांटाइज़ेशन पर और दोनों सामुदायिक आंकड़े, इसलिए इन्हें परिमाण के क्रम के रूप में पढ़ें, बेंचमार्क के रूप में नहीं:

• 128 GB वाला DGX Spark, IQ2 पर V4-Flash: लगभग 6–7 टोकन प्रति सेकंड।
• 256 GB वाला Mac Studio M3 Ultra, MLX 2-बिट में V4.1-Flash: लगभग 9.5 टोकन प्रति सेकंड।

गाइड में RTX 4090 या 5090 के लिए कोई आंकड़ा नहीं है।

यह कैसा लगता है? 1,000-टोकन का उत्तर लगभग डेढ़ पृष्ठ टेक्स्ट है:

1,000 ÷ 9.5 = 105.3 सेकंड

1,000 ÷ 6 = 166.7 सेकंड

एक चैट के लिए जिसे आप स्ट्रीम होते हुए पढ़ते हैं, यह धीमा लेकिन उपयोगी है। एक एजेंट के लिए जो प्रति कार्य दर्जनों कॉल करता है, यह जल्दी जुड़ जाता है। मान लें कि आपका लूप प्रति दिन 2,000,000 आउटपुट टोकन उत्पन्न करता है और मशीन वास्तव में बिना रुके 9.5 टोकन प्रति सेकंड उत्पन्न करती है:

2,000,000 ÷ 9.5 = 210,526 सेकंड

210,526 ÷ 3,600 = 58.5 घंटे

यह एक दिन के काम के लिए एक दिन से अधिक जनरेशन है। वास्तविक सर्वर कई अनुरोधों को एक साथ बैच करते हैं, इसलिए एक टीम के लिए तस्वीर उतनी निराशाजनक नहीं है, लेकिन आप अपने उत्पाद को बनाने के बजाय इंजन को ट्यून कर रहे होंगे।

API के माध्यम से उसी वर्कलोड की लागत क्या है#

आइए उदाहरण को ठोस बनाएं। मान लें कि एक एजेंट लूप प्रति दिन 10 मिलियन इनपुट टोकन भेजता है और 2 मिलियन आउटपुट टोकन प्राप्त करता है। ये अनुमानित संख्याएँ हैं, इन्हें उपयोग लॉग से अपनी संख्याओं से बदलें।

DeepSeek का अपना मूल्य पृष्ठ (22 अक्टूबर 2026, पृष्ठ स्वयं कोई तिथि नहीं दिखाता) deepseek-flash को सूचीबद्ध करता है, जो DeepSeek-V4.1-Flash-1017 द्वारा परोसा जाता है, प्रति 1M टोकन इन कीमतों पर, ऑफ-पीक / पीक: कैश मिस के साथ इनपुट $0.15 / $0.30, आउटपुट $0.60 / $1.20। पीक घंटे 01:00–04:00 और 06:00–10:00 UTC, सोमवार से शुक्रवार, चीनी सार्वजनिक छुट्टियों को छोड़कर; ऑफ-पीक पीक का आधा है। कैश-हिट इनपुट बहुत सस्ता है ($0.003 / $0.006), इसलिए जो लूप वही लंबा प्रीफ़िक्स दोबारा भेजता है, वह यहाँ दी गई संख्याओं से नीचे रहेगा।

अनुमानित वर्कलोड के लिए, कैश मिस के साथ:

ऑफ-पीक: 10 × $0.15 + 2 × $0.60 = $2.70 प्रति दिन

पीक: 10 × $0.30 + 2 × $1.20 = $5.40 प्रति दिन

CheapTokens पर, उसी तरह के एजेंट लूप के लिए, MiniMax-M2.7 (minimax-m2.7) लें: किसी भी घंटे एक निश्चित मूल्य, कोई पीक विंडो नहीं, प्रति उत्तर अधिकतम 8,192 आउटपुट टोकन, 180K संदर्भ, और सभी मॉडलों के लिए एक बैलेंस। वही 10M इनपुट और 2M आउटपुट टोकन प्रति दिन $0.80 के हैं। कुल मिलाकर, इनपुट और आउटपुट को एक साथ गिनने पर, यह OpenRouter से सस्ता है; यहाँ ठीक इसी वर्कलोड के लिए लाइव तालिका है:

तालिका हर बार दिखाए जाने पर वर्तमान मूल्य सूची पढ़ती है, इसलिए कीमतें बदलने पर भी यह सही रहती है। पूरी मूल्य सूची CheapTokens मूल्य पृष्ठ पर है, और 2026 में DeepSeek API मूल्य निर्धारण बताता है कि कैश हिट और पीक घंटे बिल को कैसे बदलते हैं।

आपका अपना हार्डवेयर कब फ़ायदेमंद होता है?#

स्थानीय टोकन प्रति अनुरोध कुछ भी खर्च नहीं करते, लेकिन मशीन करती है। जाँचने का एक सरल तरीका:

payback days = hardware price ÷ (daily API bill − daily electricity)

मैं यहाँ हार्डवेयर की कीमत नहीं दे रहा क्योंकि यह बहुत बदलती है; जो आपको बताई गई हो उसे डालें। अंदाज़ा लगाने के लिए, ऊपर DeepSeek मूल्य पृष्ठ से ऑफ-पीक बिल लें। हर $1,000 हार्डवेयर को ब्रेक ईवन के लिए API बिल के इतने दिन चाहिए, बिजली और आपके अपने समय से पहले:

1,000 ÷ 2.70 = 370.4 दिन

और यह मानता है कि मशीन यह वॉल्यूम बिल्कुल दे सकती है: 9.5 टोकन प्रति सेकंड पर यह नहीं कर सकती (ऊपर गति अनुभाग देखें), इसलिए एजेंट वर्कलोड के लिए भुगतान नहीं मिलता। स्थानीय तब अधिक समझ में आता है जब:

• डेटा आपके नेटवर्क से बाहर नहीं जाना चाहिए, और यह बिल से अधिक मायने रखता है;
• आपके पास पहले से मशीन है और लोड हल्का है, मान लें किसी व्यक्तिगत टूल के लिए प्रति दिन कुछ सौ अनुरोध;
• आप स्वयं भार के साथ प्रयोग करना चाहते हैं: क्वांटाइज़ेशन, फ़ाइन-ट्यूनिंग, अपनी पसंद का इंजन।

API तब अधिक समझ में आता है जब वर्कलोड एक एजेंट या सेवा हो, जब आपको उत्तर सेकंडों में चाहिए, या जब आपका हार्डवेयर ऊपर दिए गए मेमोरी आकारों से कम हो। यदि आपकी मशीन सबसे हल्की DeepSeek फ़ाइल के लिए भी बहुत छोटी है, तो MiniMax-M2.7 (180K संदर्भ, प्रति उत्तर अधिकतम 8,192 आउटपुट टोकन, कुल मिलाकर OpenRouter से सस्ता) उसी क्लाइंट के माध्यम से आज़माने लायक मॉडल है।

स्थानीय से होस्टेड API पर जाना#

शौकिया प्रोजेक्ट अक्सर Ollama पर शुरू होते हैं और फिर उससे आगे बढ़ जाते हैं। अच्छी खबर: स्थानीय इंजन OpenAI प्रोटोकॉल बोलते हैं। Ollama का संगतता पृष्ठ (docs.ollama.com, 22 अक्टूबर 2026 को जाँचा गया) एंडपॉइंट http://localhost:11434/v1/ दिखाता है; क्लाइंट को कुछ api_key मान चाहिए, लेकिन Ollama इसे अनदेखा करता है। स्ट्रीमिंग, JSON मोड और टूल्स काम करते हैं; logprobs नहीं।

तो स्विच दो पंक्तियाँ और मॉडल नाम है:

import os
from openai import OpenAI

# Local Ollama: the key is required by the client but ignored by the server
# client = OpenAI(base_url="http://localhost:11434/v1/", api_key="ollama")

client = OpenAI(
    base_url="https://api.cheaptokens.dev/v1",
    api_key=os.environ["CHEAPTOKENS_API_KEY"],
)

reply = client.chat.completions.create(
    model="MiniMaxAI/MiniMax-M2.7",  # take the exact id from the CheapTokens docs
    messages=[{"role": "user", "content": "Summarize this ticket in one sentence: ..."}],
    max_tokens=200,
)
print(reply.choices[0].message.content)
print(reply.usage)

जब यह काम करता है तो आप एक वाक्य का सारांश और प्रॉम्प्ट तथा कम्प्लीशन टोकन गणना वाला usage ऑब्जेक्ट देखते हैं, वही संख्याएँ जिनसे आपका बिल बनता है। CheapTokens API Anthropic Messages प्रारूप भी स्वीकार करता है, और दस्तावेज़ पहला अनुरोध चरण-दर-चरण दिखाते हैं। यदि base_url आपके लिए नया है, तो OpenAI-संगत API: base_url क्या है दो मिनट लेता है।

यदि यह काम नहीं करता#

• localhost:11434 पर Connection refused: Ollama नहीं चल रहा है, या आप अभी भी स्थानीय पते की ओर इंगित कर रहे हैं।
• 401: कुंजी गायब है या स्पेस के साथ कॉपी की गई है; इसे पर्यावरण चर से पढ़ें, जैसा उदाहरण में है।
• 404 या अज्ञात मॉडल: मॉडल आईडी मेल नहीं खाती। स्थानीय नाम और होस्टेड नाम अलग होते हैं, इसलिए आईडी दस्तावेज़ों से कॉपी करें।

किसे चुनें#

यदि आपके पास 128 GB या अधिक है और जिज्ञासु हैं, तो घर पर भार चलाएँ और नियंत्रण का आनंद लें। यदि आप एक एजेंट बनाते हैं जो प्रति दिन लाखों टोकन जलाता है, या एक सेवा जहाँ उपयोगकर्ता उत्तर की प्रतीक्षा करते हैं, तो API का उपयोग करें और प्रयोगों के लिए स्थानीय सेटअप रखें। कोड दोनों तरह से वही रहता है, इसलिए आप एक से शुरू करके बाद में दूसरे पर जा सकते हैं। सेल्फ-होस्टिंग पक्ष पर अधिक जानकारी के लिए, सेल्फ-होस्टिंग के लिए DeepInfer का क्या अर्थ है देखें; API के माध्यम से DeepSeek आज़माने के लिए, CheapTokens DeepSeek मॉडल देखें।