Eseguire DeepSeek in locale o usare un'API? Hardware, velocità, costi

Probabilmente no, a meno che tu non abbia 128 GB di RAM o una macchina di classe Mac Studio, oppure abbia un motivo per tenere ogni token sul tuo disco. Solo il file di DeepSeek V4-Flash è di circa 100 GB, e una guida della community riporta circa 6–10 token al secondo anche su hardware costoso. Per la maggior parte delle app e dei loop degli agenti la strada più breve è puntare il client OpenAI a un'API ospitata: cambi base_url e la chiave, e nient'altro nel tuo codice.

Qui sotto: come verificare la tua macchina in cinque minuti, che velocità aspettarti e quanto costa un carico di lavoro reale tramite un'API.

DeepSeek entrerà nella tua memoria?#

Le dimensioni qui riportate provengono da una guida della community per eseguire DeepSeek in locale (deepseek-local-guide-ru su GitHub, 18 parti, CC BY 4.0, consultata il 22 ottobre 2026). È non ufficiale e non affiliata a DeepSeek. Le pagine della guida stessa non concordano del tutto tra loro sulle dimensioni, quindi verifica la dimensione del file sulla model card di Hugging Face prima di avviare un download da 100 GB.

Secondo la guida, DeepSeek V4-Flash-0731 ha 284B parametri, di cui 13B attivi per token. I file:

Il modello non deve risiedere interamente nella memoria video. llama.cpp può tenere i layer degli esperti nella RAM di sistema, ma la regola empirica della guida è netta: una GPU da 24 GB necessita di 128 GB di RAM accanto.

Supponiamo che tu abbia un buon PC da gaming con una GPU da 24 GB e 64 GB di RAM. Somma i due valori e confrontali con il file più piccolo:

24 + 64 = 88 GB, e il file Q3 è di 103 GB.

Non ci sta, e il sistema operativo ha comunque bisogno di memoria propria. Con 24 GB di VRAM e 128 GB di RAM hai 152 GB, e il file da 103 GB ci sta con spazio in abbondanza.

Il più recente DeepSeek-V4.1-Flash-1017 è più grande: circa 552B parametri più 196B di Engram, circa 510 GB in FP8 e circa 167 GB a 2-bit, secondo la stessa guida. Il supporto è l'altro problema. Al momento della guida (verificata il 22 ottobre 2026) non funziona in Ollama, perché l'architettura deepseek_v41 non è supportata, e il supporto in llama.cpp e LM Studio non è nei loro branch principali. Questo cambia in fretta, quindi controlla le note di rilascio del tuo motore prima di pianificare su di esso.

Quanto è veloce?#

La guida fornisce due misurazioni, entrambe a quantizzazione pesante ed entrambe numeri della community, quindi leggile come ordini di grandezza e non come benchmark:

• DGX Spark con 128 GB, V4-Flash a IQ2: circa 6–7 token al secondo.
• Mac Studio M3 Ultra con 256 GB, V4.1-Flash in MLX 2-bit: circa 9,5 token al secondo.

La guida non ha dati per una RTX 4090 o 5090.

Che sensazione dà? Una risposta da 1.000 token è all'incirca una pagina e mezza di testo:

1.000 ÷ 9,5 = 105,3 secondi

1.000 ÷ 6 = 166,7 secondi

Per una chat che leggi mentre arriva in streaming, è lento ma utilizzabile. Per un agente che effettua decine di chiamate per attività, si accumula in fretta. Supponiamo che il tuo loop produca 2.000.000 di token in output al giorno e che la macchina generi davvero 9,5 token al secondo senza pause:

2.000.000 ÷ 9,5 = 210.526 secondi

210.526 ÷ 3.600 = 58,5 ore

Sono più di un giorno di generazione per un giorno di lavoro. I server reali raggruppano più richieste insieme, quindi il quadro non è così fosco per un team, ma finiresti per ottimizzare il motore invece di costruire il tuo prodotto.

Quanto costa lo stesso carico di lavoro tramite un'API#

Rendiamo concreto l'esempio. Supponiamo un loop di un agente che invia 10 milioni di token in input e riceve 2 milioni di token in output al giorno. Sono numeri ipotetici, sostituiscili con i tuoi dal log di utilizzo.

La pagina dei prezzi di DeepSeek stessa (22 ottobre 2026, la pagina non mostra una data) elenca deepseek-flash, servito da DeepSeek-V4.1-Flash-1017, a questi prezzi per 1M token, fuori picco / picco: input con cache miss $0,15 / $0,30, output $0,60 / $1,20. Le ore di picco sono 01:00–04:00 e 06:00–10:00 UTC, dal lunedì al venerdì, esclusi i giorni festivi pubblici cinesi; fuori picco è la metà del picco. L'input con cache hit è molto più economico ($0,003 / $0,006), quindi un loop che reinvia lo stesso lungo prefisso si collocherà sotto i numeri qui riportati.

Per il carico di lavoro ipotizzato, con cache miss:

Fuori picco: 10 × $0,15 + 2 × $0,60 = $2,70 al giorno

Picco: 10 × $0,30 + 2 × $1,20 = $5,40 al giorno

Su CheapTokens, per lo stesso tipo di loop di un agente, prendi MiniMax-M2.7 (minimax-m2.7): un prezzo fisso a qualsiasi ora, nessuna finestra di picco, fino a 8.192 token in output per risposta, un contesto di 180K e un unico saldo per tutti i modelli. Gli stessi 10M di input e 2M di output costano $0.80 al giorno. Nel complesso, contando input e output insieme, è più economico di OpenRouter; ecco la tabella live per esattamente questo carico di lavoro:

La tabella legge il listino prezzi corrente ogni volta che viene mostrata, quindi resta corretta quando i prezzi cambiano. Il listino completo è sulla pagina dei prezzi di CheapTokens, e Prezzi dell'API DeepSeek nel 2026 spiega come i cache hit e le ore di picco cambiano una fattura.

Quando conviene il tuo hardware?#

I token locali non costano nulla per richiesta, ma la macchina sì. Un modo semplice per verificare:

payback days = hardware price ÷ (daily API bill − daily electricity)

Non fornisco qui un prezzo hardware perché cambia troppo; inserisci quello che ti è stato quotato. Per farti un'idea, prendi la bolletta fuori picco dalla pagina dei prezzi di DeepSeek sopra. Ogni $1.000 di hardware richiede questo numero di giorni di bolletta API per andare in pareggio, prima di elettricità e del tuo tempo:

1.000 ÷ 2,70 = 370,4 giorni

E questo presuppone che la macchina possa davvero erogare questo volume: a 9,5 token al secondo non può (vedi la sezione sulla velocità sopra), quindi per un carico di lavoro da agente il ritorno non torna. Il locale ha più senso quando:

• i dati non devono uscire dalla tua rete, e questo conta più della bolletta;
• possiedi già la macchina e il carico è leggero, diciamo qualche centinaio di richieste al giorno per uno strumento personale;
• vuoi sperimentare con i pesi stessi: quantizzazione, fine-tuning, un motore a tua scelta.

Un'API ha più senso quando il carico di lavoro è un agente o un servizio, quando ti serve la risposta in pochi secondi, o quando il tuo hardware è sotto le dimensioni di memoria sopra. Se la tua macchina è troppo piccola anche per il file DeepSeek più leggero, MiniMax-M2.7 (contesto 180K, fino a 8.192 token in output per risposta, nel complesso più economico di OpenRouter) è un modello da provare tramite lo stesso client.

Passare dal locale a un'API ospitata#

I progetti hobbistici spesso iniziano su Ollama e poi lo superano. La buona notizia: i motori locali parlano il protocollo OpenAI. La pagina di compatibilità di Ollama (docs.ollama.com, consultata il 22 ottobre 2026) mostra l'endpoint http://localhost:11434/v1/; il client ha bisogno di un valore api_key, ma Ollama lo ignora. Streaming, modalità JSON e tool funzionano; i logprobs no.

Quindi il passaggio è di due righe più il nome del modello:

import os
from openai import OpenAI

# Local Ollama: the key is required by the client but ignored by the server
# client = OpenAI(base_url="http://localhost:11434/v1/", api_key="ollama")

client = OpenAI(
    base_url="https://api.cheaptokens.dev/v1",
    api_key=os.environ["CHEAPTOKENS_API_KEY"],
)

reply = client.chat.completions.create(
    model="MiniMaxAI/MiniMax-M2.7",  # take the exact id from the CheapTokens docs
    messages=[{"role": "user", "content": "Summarize this ticket in one sentence: ..."}],
    max_tokens=200,
)
print(reply.choices[0].message.content)
print(reply.usage)

Quando funziona vedi un riassunto di una frase e un oggetto usage con i conteggi dei token di prompt e completion, gli stessi numeri su cui si basa la tua fattura. L'API di CheapTokens accetta anche il formato Anthropic Messages, e la documentazione mostra la prima richiesta passo per passo. Se base_url è nuovo per te, API compatibile con OpenAI: cos'è base_url richiede due minuti.

Se non funziona#

• Connection refused su localhost:11434: Ollama non è in esecuzione, oppure stai ancora puntando all'indirizzo locale.
• 401: la chiave manca o è stata copiata con uno spazio; leggila da una variabile d'ambiente, come nell'esempio.
• 404 o un modello sconosciuto: l'id del modello non corrisponde. I nomi locali e quelli ospitati differiscono, quindi copia l'id dalla documentazione.

Quale scegliere#

Se possiedi 128 GB o più e sei curioso, esegui i pesi a casa e goditi il controllo. Se costruisci un agente che consuma milioni di token al giorno, o un servizio in cui gli utenti aspettano la risposta, usa l'API e tieni il setup locale per gli esperimenti. Il codice resta lo stesso in entrambi i casi, quindi puoi iniziare con uno e passare all'altro più avanti. Per saperne di più sul self-hosting, vedi cosa significa DeepInfer per il self-hosting; per provare DeepSeek tramite l'API, vedi modelli DeepSeek di CheapTokens.