DeepSeek lokal ausführen oder eine API nutzen? Hardware, Geschwindigkeit, Kosten

Wahrscheinlich nicht, es sei denn, Sie besitzen 128 GB RAM oder eine Maschine der Mac-Studio-Klasse, oder Sie haben einen Grund, jedes Token auf Ihrer eigenen Festplatte zu behalten. Allein eine DeepSeek V4-Flash-Datei ist etwa 100 GB groß, und ein Community-Leitfaden berichtet von ungefähr 6–10 Tokens pro Sekunde selbst auf teurer Hardware. Für die meisten Apps und Agent-Schleifen ist der kürzere Weg, den OpenAI-Client auf eine gehostete API zu richten: Sie ändern base_url und den Schlüssel, und sonst nichts in Ihrem Code.

Unten: wie Sie Ihre eigene Maschine in fünf Minuten prüfen, welche Geschwindigkeit zu erwarten ist und was eine echte Arbeitslast über eine API kostet.

Passt DeepSeek in Ihren Speicher?#

Die Größen hier stammen aus einem Community-Leitfaden zum lokalen Ausführen von DeepSeek (deepseek-local-guide-ru auf GitHub, 18 Teile, CC BY 4.0, gelesen am 22. Oktober 2026). Er ist inoffiziell und nicht mit DeepSeek verbunden. Die Seiten des Leitfadens stimmen bei den Größen nicht vollständig überein, daher bestätigen Sie die Dateigröße auf der Hugging-Face-Modellkarte, bevor Sie einen 100-GB-Download starten.

Laut dem Leitfaden hat DeepSeek V4-Flash-0731 284B Parameter, von denen 13B pro Token aktiv sind. Die Dateien:

Das Modell muss nicht vollständig im Videospeicher liegen. llama.cpp kann die Experten-Schichten im System-RAM halten, aber die Faustregel des Leitfadens ist deutlich: Eine 24-GB-GPU braucht 128 GB RAM daneben.

Angenommen, Sie haben einen guten Gaming-PC mit einer 24-GB-GPU und 64 GB RAM. Addieren Sie beides und vergleichen Sie mit der kleinsten Datei:

24 + 64 = 88 GB, und die Q3-Datei ist 103 GB.

Es passt nicht, und das Betriebssystem braucht noch eigenen Speicher. Mit 24 GB VRAM und 128 GB RAM haben Sie 152 GB, und die 103-GB-Datei passt mit Reserve.

Das neuere DeepSeek-V4.1-Flash-1017 ist größer: etwa 552B Parameter plus 196B Engram, rund 510 GB in FP8 und etwa 167 GB bei 2-Bit, laut demselben Leitfaden. Die Unterstützung ist das andere Problem. Stand des Leitfadens (geprüft am 22. Oktober 2026) läuft es nicht in Ollama, weil die deepseek_v41-Architektur nicht unterstützt wird, und die Unterstützung in llama.cpp und LM Studio ist nicht in deren Hauptzweigen. Das ändert sich schnell, also schauen Sie in die Release Notes Ihrer Engine, bevor Sie damit planen.

Wie schnell ist es?#

Der Leitfaden gibt zwei Messungen, beide bei starker Quantisierung und beide Community-Zahlen, also lesen Sie sie als Größenordnungen und nicht als Benchmark:

• DGX Spark mit 128 GB, V4-Flash bei IQ2: etwa 6–7 Tokens pro Sekunde.
• Mac Studio M3 Ultra mit 256 GB, V4.1-Flash in MLX 2-Bit: etwa 9,5 Tokens pro Sekunde.

Der Leitfaden hat keine Angabe für eine RTX 4090 oder 5090.

Wie fühlt sich das an? Eine Antwort mit 1.000 Tokens ist ungefähr anderthalb Seiten Text:

1.000 ÷ 9,5 = 105,3 Sekunden

1.000 ÷ 6 = 166,7 Sekunden

Für einen Chat, den Sie beim Streamen lesen, ist das langsam, aber brauchbar. Für einen Agenten, der Dutzende Aufrufe pro Aufgabe macht, summiert es sich schnell. Angenommen, Ihre Schleife erzeugt 2.000.000 Ausgabe-Tokens pro Tag und die Maschine generiert tatsächlich 9,5 Tokens pro Sekunde ohne Pause:

2.000.000 ÷ 9,5 = 210.526 Sekunden

210.526 ÷ 3.600 = 58,5 Stunden

Das ist mehr als ein Tag Generierung für einen Tag Arbeit. Echte Server bündeln mehrere Anfragen, daher ist das Bild für ein Team nicht so düster, aber Sie würden die Engine optimieren statt Ihr Produkt zu bauen.

Was dieselbe Arbeitslast über eine API kostet#

Machen wir das Beispiel konkret. Nehmen Sie eine Agent-Schleife an, die 10 Millionen Eingabe-Tokens sendet und 2 Millionen Ausgabe-Tokens pro Tag erhält. Das sind angenommene Zahlen, ersetzen Sie sie durch Ihre aus dem Nutzungsprotokoll.

DeepSeeks eigene Preisseite (22. Oktober 2026, die Seite selbst zeigt kein Datum) listet deepseek-flash, bereitgestellt von DeepSeek-V4.1-Flash-1017, zu diesen Preisen pro 1M Tokens, Off-Peak / Peak: Eingabe mit Cache-Miss 0,15 $ / 0,30 $, Ausgabe 0,60 $ / 1,20 $. Peak-Zeiten sind 01:00–04:00 und 06:00–10:00 UTC, Montag bis Freitag, ausgenommen chinesische Feiertage; Off-Peak ist die Hälfte von Peak. Eingabe mit Cache-Hit ist viel günstiger (0,003 $ / 0,006 $), sodass eine Schleife, die denselben langen Präfix erneut sendet, unter den hier genannten Zahlen landen wird.

Für die angenommene Arbeitslast, mit Cache-Misses:

Off-Peak: 10 × 0,15 $ + 2 × 0,60 $ = 2,70 $ pro Tag

Peak: 10 × 0,30 $ + 2 × 1,20 $ = 5,40 $ pro Tag

Bei CheapTokens kostet für dieselbe Art von Agent-Schleife MiniMax-M2.7 (minimax-m2.7): ein fester Preis zu jeder Stunde, kein Peak-Fenster, bis zu 8.192 Ausgabe-Tokens pro Antwort, ein 180K-Kontext und ein Guthaben für alle Modelle. Dieselben 10M Eingabe- und 2M Ausgabe-Tokens kosten $0.80 pro Tag. Insgesamt, Eingabe und Ausgabe zusammengerechnet, ist es günstiger als OpenRouter; hier ist die Live-Tabelle für genau diese Arbeitslast:

Die Tabelle liest bei jeder Anzeige die aktuelle Preisliste, sodass sie korrekt bleibt, wenn sich Preise ändern. Die vollständige Preisliste finden Sie auf der CheapTokens-Preisseite, und DeepSeek-API-Preise im Jahr 2026 erklärt, wie Cache-Hits und Peak-Zeiten eine Rechnung verändern.

Wann lohnt sich Ihre eigene Hardware?#

Lokale Tokens kosten nichts pro Anfrage, aber die Maschine kostet. Eine einfache Prüfung:

payback days = hardware price ÷ (daily API bill − daily electricity)

Ich gebe hier keinen Hardwarepreis an, weil er sich zu stark bewegt; setzen Sie den ein, der Ihnen genannt wurde. Um ein Gefühl zu bekommen, nehmen Sie die Off-Peak-Rechnung von der DeepSeek-Preisseite oben. Jede 1.000 $ Hardware braucht so viele Tage der API-Rechnung, um sich zu amortisieren, vor Strom und Ihrer eigenen Zeit:

1.000 ÷ 2,70 = 370,4 Tage

Und das setzt voraus, dass die Maschine dieses Volumen überhaupt liefern kann: bei 9,5 Tokens pro Sekunde kann sie das nicht (siehe den Geschwindigkeitsabschnitt oben), also geht die Amortisation für eine Agent-Arbeitslast nicht auf. Lokal macht mehr Sinn, wenn:

• die Daten Ihr Netzwerk nicht verlassen dürfen und das wichtiger ist als die Rechnung;
• Sie die Maschine bereits besitzen und die Last leicht ist, sagen wir ein paar hundert Anfragen pro Tag für ein persönliches Tool;
• Sie mit den Gewichten selbst experimentieren möchten: Quantisierung, Fine-Tuning, eine Engine Ihrer Wahl.

Eine API macht mehr Sinn, wenn die Arbeitslast ein Agent oder ein Dienst ist, wenn Sie die Antwort in Sekunden brauchen oder wenn Ihre Hardware unter den oben genannten Speichergrößen liegt. Wenn Ihre Maschine selbst für die leichteste DeepSeek-Datei zu klein ist, ist MiniMax-M2.7 (180K-Kontext, bis zu 8.192 Ausgabe-Tokens pro Antwort, insgesamt günstiger als OpenRouter) ein Modell, das Sie über denselben Client ausprobieren können.

Von lokal zu einer gehosteten API wechseln#

Hobbyprojekte beginnen oft mit Ollama und wachsen dann darüber hinaus. Die gute Nachricht: Die lokalen Engines sprechen das OpenAI-Protokoll. Ollamas Kompatibilitätsseite (docs.ollama.com, geprüft am 22. Oktober 2026) zeigt den Endpunkt http://localhost:11434/v1/; der Client braucht einen api_key-Wert, aber Ollama ignoriert ihn. Streaming, JSON-Modus und Tools funktionieren; Logprobs nicht.

Der Wechsel sind also zwei Zeilen plus der Modellname:

import os
from openai import OpenAI

# Local Ollama: the key is required by the client but ignored by the server
# client = OpenAI(base_url="http://localhost:11434/v1/", api_key="ollama")

client = OpenAI(
    base_url="https://api.cheaptokens.dev/v1",
    api_key=os.environ["CHEAPTOKENS_API_KEY"],
)

reply = client.chat.completions.create(
    model="MiniMaxAI/MiniMax-M2.7",  # take the exact id from the CheapTokens docs
    messages=[{"role": "user", "content": "Summarize this ticket in one sentence: ..."}],
    max_tokens=200,
)
print(reply.choices[0].message.content)
print(reply.usage)

Wenn es funktioniert, sehen Sie eine Zusammenfassung in einem Satz und ein usage-Objekt mit den Token-Zahlen für Prompt und Completion, dieselben Zahlen, auf denen Ihre Rechnung basiert. Die CheapTokens-API akzeptiert auch das Anthropic-Messages-Format, und die Dokumentation zeigt die erste Anfrage Schritt für Schritt. Wenn base_url neu für Sie ist, erklärt OpenAI-kompatible API: Was ist base_url es in zwei Minuten.

Wenn es nicht funktioniert#

• Connection refused auf localhost:11434: Ollama läuft nicht, oder Sie zeigen noch auf die lokale Adresse.
• 401: Der Schlüssel fehlt oder wurde mit einem Leerzeichen kopiert; lesen Sie ihn aus einer Umgebungsvariable, wie im Beispiel.
• 404 oder ein unbekanntes Modell: Die Modell-ID stimmt nicht überein. Lokale Namen und gehostete Namen unterscheiden sich, also kopieren Sie die ID aus der Dokumentation.

Welches Sie wählen sollten#

Wenn Sie 128 GB oder mehr besitzen und neugierig sind, führen Sie die Gewichte zu Hause aus und genießen Sie die Kontrolle. Wenn Sie einen Agenten bauen, der Millionen Tokens pro Tag verbraucht, oder einen Dienst, bei dem Benutzer auf die Antwort warten, verwenden Sie die API und behalten Sie das lokale Setup für Experimente. Der Code bleibt in beiden Fällen gleich, sodass Sie mit einem beginnen und später zum anderen wechseln können. Mehr zur Self-Hosting-Seite finden Sie unter Was DeepInfer für Self-Hosting bedeutet; um DeepSeek über die API auszuprobieren, siehe CheapTokens DeepSeek-Modelle.