Jalankan DeepSeek secara lokal atau gunakan API? Perangkat keras, kecepatan, biaya

Mungkin tidak, kecuali Anda memiliki RAM 128 GB atau mesin kelas Mac Studio, atau Anda punya alasan untuk menyimpan setiap token di disk Anda sendiri. File DeepSeek V4-Flash saja sekitar 100 GB, dan satu panduan komunitas melaporkan sekitar 6–10 token per detik bahkan pada perangkat keras mahal. Untuk sebagian besar aplikasi dan loop agen, rute yang lebih singkat adalah mengarahkan klien OpenAI ke API yang dihosting: Anda mengubah base_url dan kuncinya, dan tidak ada yang lain di kode Anda.

Di bawah ini: cara memeriksa mesin Anda sendiri dalam lima menit, kecepatan apa yang diharapkan, dan berapa biaya beban kerja nyata melalui API.

Apakah DeepSeek akan muat di memori Anda?#

Ukuran di sini berasal dari panduan komunitas untuk menjalankan DeepSeek secara lokal (deepseek-local-guide-ru di GitHub, 18 bagian, CC BY 4.0, dibaca pada 22 Oktober 2026). Ini tidak resmi dan tidak berafiliasi dengan DeepSeek. Halaman-halaman panduan itu sendiri tidak sepenuhnya sepakat satu sama lain tentang ukuran, jadi konfirmasi ukuran file di kartu model Hugging Face sebelum Anda memulai unduhan 100 GB.

Menurut panduan, DeepSeek V4-Flash-0731 memiliki 284B parameter, di mana 13B aktif per token. File-filenya:

Model tidak harus sepenuhnya berada di memori video. llama.cpp dapat menyimpan lapisan expert di RAM sistem, tetapi aturan praktis panduan itu lugas: GPU 24 GB membutuhkan RAM 128 GB di sampingnya.

Katakanlah Anda memiliki PC gaming bagus dengan GPU 24 GB dan RAM 64 GB. Jumlahkan keduanya dan bandingkan dengan file terkecil:

24 + 64 = 88 GB, dan file Q3 adalah 103 GB.

Tidak muat, dan sistem operasi masih membutuhkan memorinya sendiri. Dengan VRAM 24 GB dan RAM 128 GB Anda memiliki 152 GB, dan file 103 GB muat dengan sisa ruang.

DeepSeek-V4.1-Flash-1017 yang lebih baru lebih besar: sekitar 552B parameter plus 196B Engram, sekitar 510 GB dalam FP8 dan sekitar 167 GB pada 2-bit, menurut panduan yang sama. Dukungan adalah masalah lainnya. Pada saat panduan (diperiksa 22 Oktober 2026) itu tidak berjalan di Ollama, karena arsitektur deepseek_v41 tidak didukung, dan dukungan llama.cpp dan LM Studio tidak ada di cabang utama mereka. Ini berubah dengan cepat, jadi lihat catatan rilis mesin Anda sebelum Anda merencanakan berdasarkan itu.

Seberapa cepat?#

Panduan memberikan dua pengukuran, keduanya pada kuantisasi berat dan keduanya angka komunitas, jadi bacalah sebagai orde besaran dan bukan sebagai benchmark:

• DGX Spark dengan 128 GB, V4-Flash pada IQ2: sekitar 6–7 token per detik.
• Mac Studio M3 Ultra dengan 256 GB, V4.1-Flash dalam MLX 2-bit: sekitar 9,5 token per detik.

Panduan tidak memiliki angka untuk RTX 4090 atau 5090.

Bagaimana rasanya? Jawaban 1.000 token kira-kira satu setengah halaman teks:

1.000 ÷ 9,5 = 105,3 detik

1.000 ÷ 6 = 166,7 detik

Untuk obrolan yang Anda baca saat streaming, itu lambat tetapi bisa digunakan. Untuk agen yang melakukan puluhan panggilan per tugas, itu bertambah dengan cepat. Katakanlah loop Anda menghasilkan 2.000.000 token output per hari dan mesin benar-benar menghasilkan 9,5 token per detik tanpa henti:

2.000.000 ÷ 9,5 = 210.526 detik

210.526 ÷ 3.600 = 58,5 jam

Itu lebih dari sehari generasi untuk satu hari kerja. Server nyata melakukan batching beberapa permintaan bersama-sama, jadi gambaran untuk tim tidak terlalu suram, tetapi Anda akan menyetel mesin alih-alih membangun produk Anda.

Berapa biaya beban kerja yang sama melalui API#

Mari kita buat contohnya konkret. Asumsikan loop agen yang mengirim 10 juta token input dan mendapatkan 2 juta token output per hari. Ini adalah angka asumsi, ganti dengan angka Anda dari log penggunaan.

Halaman harga DeepSeek sendiri (22 Oktober 2026, halaman itu sendiri tidak menunjukkan tanggal) mencantumkan deepseek-flash, dilayani oleh DeepSeek-V4.1-Flash-1017, dengan harga per 1M token, off-peak / peak: input dengan cache miss $0,15 / $0,30, output $0,60 / $1,20. Jam sibuk adalah 01:00–04:00 dan 06:00–10:00 UTC, Senin hingga Jumat, tidak termasuk hari libur nasional Tiongkok; off-peak adalah setengah dari peak. Input cache-hit jauh lebih murah ($0,003 / $0,006), jadi loop yang mengirim ulang prefiks panjang yang sama akan berada di bawah angka di sini.

Untuk beban kerja yang diasumsikan, dengan cache miss:

Off-peak: 10 × $0,15 + 2 × $0,60 = $2,70 per hari

Peak: 10 × $0,30 + 2 × $1,20 = $5,40 per hari

Di CheapTokens, untuk jenis loop agen yang sama, ambil MiniMax-M2.7 (minimax-m2.7): satu harga tetap pada jam berapa pun, tanpa jendela peak, hingga 8.192 token output per jawaban, konteks 180K, dan satu saldo untuk semua model. 10M input dan 2M output token yang sama biayanya $0.80 per hari. Secara keseluruhan, dengan input dan output dihitung bersama, ini lebih murah daripada OpenRouter; berikut adalah tabel langsung untuk beban kerja persis ini:

Tabel membaca daftar harga saat ini setiap kali ditampilkan, sehingga tetap benar ketika harga berubah. Daftar harga lengkap ada di halaman harga CheapTokens, dan harga API DeepSeek pada 2026 menjelaskan bagaimana cache hit dan jam sibuk mengubah tagihan.

Kapan perangkat keras Anda sendiri menguntungkan?#

Token lokal tidak memakan biaya per permintaan, tetapi mesinnya memakan biaya. Cara sederhana untuk memeriksa:

payback days = hardware price ÷ (daily API bill − daily electricity)

Saya tidak memberikan harga perangkat keras di sini karena terlalu fluktuatif; masukkan harga yang Anda kutip. Untuk mendapatkan gambaran, ambil tagihan off-peak dari halaman harga DeepSeek di atas. Setiap $1.000 perangkat keras membutuhkan berapa hari tagihan API untuk mencapai titik impas, sebelum listrik dan waktu Anda sendiri:

1.000 ÷ 2,70 = 370,4 hari

Dan itu mengasumsikan mesin dapat memberikan volume ini sama sekali: pada 9,5 token per detik tidak bisa (lihat bagian kecepatan di atas), jadi untuk beban kerja agen, pengembaliannya tidak masuk akal. Lokal lebih masuk akal ketika:

• data tidak boleh meninggalkan jaringan Anda, dan itu lebih penting daripada tagihan;
• Anda sudah memiliki mesin dan bebannya ringan, katakanlah beberapa ratus permintaan sehari untuk alat pribadi;
• Anda ingin bereksperimen dengan bobot itu sendiri: kuantisasi, fine-tuning, mesin pilihan Anda.

API lebih masuk akal ketika beban kerjanya adalah agen atau layanan, ketika Anda membutuhkan jawaban dalam hitungan detik, atau ketika perangkat keras Anda di bawah ukuran memori di atas. Jika mesin Anda terlalu kecil bahkan untuk file DeepSeek paling ringan, MiniMax-M2.7 (konteks 180K, hingga 8.192 token output per jawaban, secara keseluruhan lebih murah daripada OpenRouter) adalah model untuk dicoba melalui klien yang sama.

Pindah dari lokal ke API yang dihosting#

Proyek hobi sering dimulai di Ollama dan kemudian melampauinya. Kabar baiknya: mesin lokal berbicara protokol OpenAI. Halaman kompatibilitas Ollama (docs.ollama.com, diperiksa 22 Oktober 2026) menunjukkan endpoint http://localhost:11434/v1/; klien membutuhkan beberapa nilai api_key, tetapi Ollama mengabaikannya. Streaming, mode JSON, dan alat berfungsi; logprobs tidak.

Jadi peralihannya adalah dua baris plus nama model:

import os
from openai import OpenAI

# Local Ollama: the key is required by the client but ignored by the server
# client = OpenAI(base_url="http://localhost:11434/v1/", api_key="ollama")

client = OpenAI(
    base_url="https://api.cheaptokens.dev/v1",
    api_key=os.environ["CHEAPTOKENS_API_KEY"],
)

reply = client.chat.completions.create(
    model="MiniMaxAI/MiniMax-M2.7",  # take the exact id from the CheapTokens docs
    messages=[{"role": "user", "content": "Summarize this ticket in one sentence: ..."}],
    max_tokens=200,
)
print(reply.choices[0].message.content)
print(reply.usage)

Ketika berhasil Anda melihat ringkasan satu kalimat dan objek usage dengan jumlah token prompt dan completion, angka yang sama yang menjadi dasar tagihan Anda. API CheapTokens juga menerima format Anthropic Messages, dan dokumentasi menunjukkan permintaan pertama langkah demi langkah. Jika base_url baru bagi Anda, API kompatibel OpenAI: apa itu base_url membutuhkan dua menit.

Jika tidak berhasil#

• Connection refused pada localhost:11434: Ollama tidak berjalan, atau Anda masih mengarah ke alamat lokal.
• 401: kunci hilang atau disalin dengan spasi; bacalah dari variabel lingkungan, seperti pada contoh.
• 404 atau model tidak dikenal: id model tidak cocok. Nama lokal dan nama yang dihosting berbeda, jadi salin id dari dokumentasi.

Mana yang harus dipilih#

Jika Anda memiliki 128 GB atau lebih dan penasaran, jalankan bobot di rumah dan nikmati kendalinya. Jika Anda membangun agen yang menghabiskan jutaan token sehari, atau layanan di mana pengguna menunggu jawaban, gunakan API dan simpan pengaturan lokal untuk eksperimen. Kode tetap sama baik cara mana pun, jadi Anda dapat memulai dengan satu dan beralih ke yang lain nanti. Untuk lebih lanjut tentang sisi self-hosting, lihat apa arti DeepInfer untuk self-hosting; untuk mencoba DeepSeek melalui API, lihat model DeepSeek CheapTokens.