DeepSeek'i yerel olarak mı çalıştırmalı yoksa API mi kullanmalı? Donanım, hız, maliyet

Muhtemelen hayır, tabii 128 GB RAM'iniz veya Mac Studio sınıfı bir makineniz yoksa ya da her token'ı kendi diskinizde tutmak için bir nedeniniz yoksa. Tek başına bir DeepSeek V4-Flash dosyası yaklaşık 100 GB ve bir topluluk rehberi, pahalı donanımda bile saniyede yaklaşık 6–10 token bildiriyor. Çoğu uygulama ve agent döngüsü için daha kısa yol, OpenAI istemcisini barındırılan bir API'ye yönlendirmektir: base_url ve anahtarı değiştirirsiniz, kodunuzda başka hiçbir şey değişmez.

Aşağıda: kendi makinenizi beş dakikada nasıl kontrol edeceğiniz, hangi hızı bekleyeceğiniz ve gerçek bir iş yükünün bir API üzerinden ne kadara mal olduğu.

DeepSeek belleğinize sığar mı?#

Buradaki boyutlar, DeepSeek'i yerel olarak çalıştırmaya yönelik bir topluluk rehberinden geliyor (GitHub'da deepseek-local-guide-ru, 18 bölüm, CC BY 4.0, 22 Ekim 2026'da okundu). Resmî değildir ve DeepSeek ile bağlantılı değildir. Rehberin kendi sayfaları boyutlar konusunda birbiriyle tam olarak uyuşmuyor, bu yüzden 100 GB'lık bir indirmeye başlamadan önce dosya boyutunu Hugging Face model kartından doğrulayın.

Rehbere göre DeepSeek V4-Flash-0731, 284B parametreye sahip ve bunların 13B'si token başına etkin. Dosyalar:

Modelin tamamen video belleğinde durması gerekmez. llama.cpp uzman katmanlarını sistem RAM'inde tutabilir, ancak rehberin pratik kuralı açık: 24 GB'lık bir GPU'nun yanında 128 GB RAM gerekir.

Diyelim ki 24 GB GPU ve 64 GB RAM'e sahip iyi bir oyun bilgisayarınız var. İkisini toplayın ve en küçük dosyayla karşılaştırın:

24 + 64 = 88 GB, Q3 dosyası ise 103 GB.

Sığmıyor ve işletim sisteminin de kendine ait belleğe ihtiyacı var. 24 GB VRAM ve 128 GB RAM ile 152 GB'ınız olur ve 103 GB'lık dosya bol bol sığar.

Daha yeni DeepSeek-V4.1-Flash-1017 daha büyük: aynı rehbere göre yaklaşık 552B parametre artı 196B Engram, FP8'de yaklaşık 510 GB ve 2-bit'te yaklaşık 167 GB. Destek diğer sorun. Rehber itibarıyla (22 Ekim 2026'da kontrol edildi) Ollama'da çalışmıyor, çünkü deepseek_v41 mimarisi desteklenmiyor ve llama.cpp ile LM Studio desteği ana dallarında değil. Bu hızla değişiyor, bu yüzden buna göre plan yapmadan önce motorunuzun sürüm notlarına bakın.

Ne kadar hızlı?#

Rehber iki ölçüm veriyor, ikisi de ağır kuantizasyonda ve ikisi de topluluk rakamları, bu yüzden bunları benchmark olarak değil büyüklük mertebesi olarak okuyun:

• 128 GB'lı DGX Spark, IQ2'de V4-Flash: saniyede yaklaşık 6–7 token.
• 256 GB'lı Mac Studio M3 Ultra, MLX 2-bit'te V4.1-Flash: saniyede yaklaşık 9,5 token.

Rehberde RTX 4090 veya 5090 için bir rakam yok.

Bu nasıl bir his? 1.000 token'lık bir yanıt kabaca bir buçuk sayfa metindir:

1.000 ÷ 9,5 = 105,3 saniye

1.000 ÷ 6 = 166,7 saniye

Akış halinde okuduğunuz bir sohbet için bu yavaş ama kullanılabilir. Görev başına düzinelerce çağrı yapan bir agent için hızla birikir. Döngünüzün günde 2.000.000 çıktı token'ı ürettiğini ve makinenin gerçekten ara vermeden saniyede 9,5 token ürettiğini varsayalım:

2.000.000 ÷ 9,5 = 210.526 saniye

210.526 ÷ 3.600 = 58,5 saat

Bu, bir günlük iş için bir günden fazla üretim demek. Gerçek sunucular birden fazla isteği birlikte toplu işler, bu yüzden bir ekip için tablo o kadar da kötü değil, ama ürününüzü geliştirmek yerine motoru ayarlıyor olurdunuz.

Aynı iş yükü bir API üzerinden ne kadara mal olur#

Örneği somutlaştıralım. Günde 10 milyon girdi token'ı gönderen ve 2 milyon çıktı token'ı alan bir agent döngüsü varsayalım. Bunlar varsayılan rakamlar, bunları kullanım günlüğünüzdeki kendi rakamlarınızla değiştirin.

DeepSeek'in kendi fiyatlandırma sayfası (22 Ekim 2026, sayfanın kendisi tarih göstermiyor) DeepSeek-V4.1-Flash-1017 tarafından sunulan deepseek-flash için 1M token başına şu fiyatları listeliyor, yoğun olmayan / yoğun saatler: önbellek isabetsiz girdi $0,15 / $0,30, çıktı $0,60 / $1,20. Yoğun saatler Pazartesi'den Cuma'ya 01:00–04:00 ve 06:00–10:00 UTC, Çin resmî tatilleri hariç; yoğun olmayan saatler yoğun saatlerin yarısı. Önbellek isabetli girdi çok daha ucuz ($0,003 / $0,006), bu yüzden aynı uzun öneki tekrar gönderen bir döngü buradaki rakamların altında kalacaktır.

Varsayılan iş yükü için, önbellek isabetsizliğiyle:

Yoğun olmayan saatler: 10 × $0,15 + 2 × $0,60 = günde $2,70

Yoğun saatler: 10 × $0,30 + 2 × $1,20 = günde $5,40

CheapTokens'te, aynı tür agent döngüsü için MiniMax-M2.7'yi (minimax-m2.7) alın: her saatte tek sabit fiyat, yoğun saat penceresi yok, yanıt başına 8.192 çıktı token'ına kadar, 180K bağlam ve tüm modeller için tek bakiye. Aynı 10M girdi ve 2M çıktı token'ı günde $0.80 tutuyor. Genel olarak, girdi ve çıktı birlikte sayıldığında OpenRouter'dan daha ucuz; işte tam bu iş yükü için canlı tablo:

Tablo her gösterildiğinde güncel fiyat listesini okur, böylece fiyatlar değiştiğinde doğru kalır. Tam fiyat listesi CheapTokens fiyatlandırma sayfasında ve 2026'da DeepSeek API fiyatlandırması önbellek isabetlerinin ve yoğun saatlerin bir faturayı nasıl değiştirdiğini açıklıyor.

Kendi donanımınız ne zaman kendini amorti eder?#

Yerel token'lar istek başına hiçbir şeye mal olmaz, ama makine olur. Kontrol etmenin basit bir yolu:

payback days = hardware price ÷ (daily API bill − daily electricity)

Burada bir donanım fiyatı vermiyorum çünkü çok fazla değişiyor; size teklif edileni koyun. Bir fikir edinmek için yukarıdaki DeepSeek fiyatlandırma sayfasındaki yoğun olmayan saat faturasını alın. Her $1.000 donanım, elektrik ve kendi zamanınız hariç, başabaş noktasına gelmek için bu kadar günlük API faturası gerektirir:

1.000 ÷ 2,70 = 370,4 gün

Ve bu, makinenin bu hacmi hiç sağlayabildiğini varsayar: saniyede 9,5 token'da sağlayamaz (yukarıdaki hız bölümüne bakın), bu yüzden bir agent iş yükü için geri ödeme hesabı tutmuyor. Yerel çalıştırma şu durumlarda daha mantıklı:

• veriler ağınızdan çıkmamalı ve bu faturadan daha önemli;
• makine zaten sizin ve yük hafif, diyelim ki kişisel bir araç için günde birkaç yüz istek;
• ağırlıkların kendisiyle deney yapmak istiyorsunuz: kuantizasyon, ince ayar, seçtiğiniz bir motor.

Bir API şu durumlarda daha mantıklı: iş yükü bir agent veya hizmet olduğunda, yanıta saniyeler içinde ihtiyaç duyduğunuzda veya donanımınız yukarıdaki bellek boyutlarının altında olduğunda. Makineniz en hafif DeepSeek dosyası için bile çok küçükse, MiniMax-M2.7 (180K bağlam, yanıt başına 8.192 çıktı token'ına kadar, genel olarak OpenRouter'dan daha ucuz) aynı istemci üzerinden deneyebileceğiniz bir model.

Yerelden barındırılan bir API'ye geçiş#

Hobi projeleri genellikle Ollama ile başlar ve sonra onu aşar. İyi haber: yerel motorlar OpenAI protokolünü konuşur. Ollama'nın uyumluluk sayfası (docs.ollama.com, 22 Ekim 2026'da kontrol edildi) http://localhost:11434/v1/ uç noktasını gösterir; istemci bir api_key değeri gerektirir, ancak Ollama bunu yok sayar. Akış, JSON modu ve araçlar çalışır; logprobs çalışmaz.

Yani geçiş iki satır artı model adıdır:

import os
from openai import OpenAI

# Local Ollama: the key is required by the client but ignored by the server
# client = OpenAI(base_url="http://localhost:11434/v1/", api_key="ollama")

client = OpenAI(
    base_url="https://api.cheaptokens.dev/v1",
    api_key=os.environ["CHEAPTOKENS_API_KEY"],
)

reply = client.chat.completions.create(
    model="MiniMaxAI/MiniMax-M2.7",  # take the exact id from the CheapTokens docs
    messages=[{"role": "user", "content": "Summarize this ticket in one sentence: ..."}],
    max_tokens=200,
)
print(reply.choices[0].message.content)
print(reply.usage)

Çalıştığında tek cümlelik bir özet ve prompt ile completion token sayılarını içeren bir usage nesnesi görürsünüz, faturanızın dayandığı aynı rakamlar. CheapTokens API ayrıca Anthropic Messages formatını kabul eder ve dokümanlar ilk isteği adım adım gösterir. base_url sizin için yeniyse, OpenAI uyumlu API: base_url nedir iki dakikanızı alır.

Çalışmazsa#

• localhost:11434 üzerinde Connection refused: Ollama çalışmıyor veya hâlâ yerel adrese işaret ediyorsunuz.
• 401: anahtar eksik veya boşlukla birlikte kopyalanmış; örnekteki gibi bir ortam değişkeninden okuyun.
• 404 veya bilinmeyen model: model kimliği eşleşmiyor. Yerel adlar ve barındırılan adlar farklıdır, bu yüzden kimliği dokümanlardan kopyalayın.

Hangisini seçmeli#

128 GB veya daha fazlasına sahipseniz ve meraklıysanız, ağırlıkları evde çalıştırın ve kontrolün tadını çıkarın. Günde milyonlarca token tüketen bir agent veya kullanıcıların yanıtı beklediği bir hizmet geliştiriyorsanız, API'yi kullanın ve yerel kurulumu deneyler için saklayın. Kod her iki durumda da aynı kalır, böylece biriyle başlayıp daha sonra diğerine geçebilirsiniz. Kendi kendine barındırma tarafı hakkında daha fazlası için DeepInfer'in kendi kendine barındırma için ne anlama geldiğine bakın; DeepSeek'i API üzerinden denemek için CheapTokens DeepSeek modellerine bakın.