Назад в блог

Оптимизация расходовСравнение

DeepSeek локально или через API: железо, скорость, цена

Потянет ли ваше железо DeepSeek V4-Flash, какой будет скорость и когда проще сменить base_url. Таблица стоимости под вашу нагрузку.

Автор: CheapTokens TeamОпубликовано Обновлено 6 мин чтения

Две колонки, «Локально» и «API»: запуск DeepSeek на своём железе и вызов размещённого API со сменой base_url
Содержание
  1. Поместится ли DeepSeek в вашу память
  2. Какая скорость
  3. Сколько та же нагрузка стоит через API
  4. Когда окупается своё железо
  5. Переезд с локальной модели на размещённый API
  6. Если не работает
  7. Что выбрать

Скорее всего нет — если только у вас нет 128 ГБ оперативной памяти или Mac Studio, либо вам не нужно, чтобы каждый токен оставался на вашем диске. Один файл DeepSeek V4-Flash занимает около 100 ГБ, а по данным одного сообщества даже на дорогом железе выходит примерно 6–10 токенов в секунду. Для большинства приложений и агентных циклов короче путь другой: направить OpenAI-клиент на размещённый API. Меняются base_url и ключ, остальной код остаётся как был.

Ниже: как за пять минут проверить свою машину, какой скорости ждать и сколько стоит реальная нагрузка через API.

Поместится ли DeepSeek в вашу память#

Размеры взяты из сообщественного руководства по запуску DeepSeek локально (deepseek-local-guide-ru на GitHub, 18 частей, CC BY 4.0, прочитано 22 октября 2026 года). Оно неофициальное и к DeepSeek отношения не имеет. Страницы руководства местами расходятся друг с другом в размерах, поэтому перед загрузкой 100 ГБ сверьте размер файла на карточке модели в Hugging Face.

По руководству, у DeepSeek V4-Flash-0731 284 млрд параметров, из них 13 млрд активны на токен. Файлы:

Квантование Размер файла (по руководству)
Q3 около 103 ГБ
Q4 около 155 ГБ
Q8 около 162 ГБ

Модели не обязательно целиком лежать в видеопамяти. llama.cpp умеет держать слои экспертов в оперативной памяти, но правило из руководства простое: рядом с видеокартой на 24 ГБ нужно 128 ГБ ОЗУ.

Допустим, у вас хороший игровой ПК: видеокарта на 24 ГБ и 64 ГБ ОЗУ. Сложите память и сравните с самым маленьким файлом:

24 + 64 = 88 ГБ, а файл Q3 весит 103 ГБ.

Не помещается, а ведь операционной системе тоже нужна память. С 24 ГБ видеопамяти и 128 ГБ ОЗУ у вас 152 ГБ, и файл на 103 ГБ ложится с запасом.

Новая DeepSeek-V4.1-Flash-1017 тяжелее: около 552 млрд параметров плюс 196 млрд Engram, примерно 510 ГБ в FP8 и около 167 ГБ в 2-битном виде — снова по тому же руководству. Вторая проблема — поддержка. На момент руководства (проверено 22 октября 2026 года) в Ollama модель не запускается: архитектура deepseek_v41 не поддерживается, а поддержка в llama.cpp и LM Studio в основные ветки не попала. Ситуация меняется быстро, так что загляните в заметки о выпусках вашего движка, прежде чем строить на этом планы.

Какая скорость#

В руководстве два замера, оба при сильном квантовании и оба из сообщества, поэтому читайте их как порядок величины, а не как бенчмарк:

  • DGX Spark со 128 ГБ, V4-Flash в IQ2: около 6–7 токенов в секунду.
  • Mac Studio M3 Ultra с 256 ГБ, V4.1-Flash в MLX 2-bit: около 9,5 токена в секунду.

Для RTX 4090 и 5090 цифры в руководстве нет.

Как это ощущается? Ответ в 1000 токенов — это примерно полторы страницы текста:

1 000 ÷ 9.5 = 105.3 секунды

1 000 ÷ 6 = 166.7 секунды

Для чата, который читаешь по мере появления текста, медленно, но терпимо. Для агента, который делает десятки вызовов на задачу, это быстро складывается. Допустим, ваш цикл выдаёт 2 000 000 выходных токенов в день, а машина действительно генерирует 9,5 токена в секунду без остановок:

2 000 000 ÷ 9.5 = 210 526 секунд

210 526 ÷ 3 600 = 58.5 часа

То есть на сутки работы нужно больше суток генерации. Настоящие серверы объединяют запросы в пакеты, так что у команды картина не такая мрачная, но тогда вы будете настраивать движок вместо того, чтобы делать продукт.

Сколько та же нагрузка стоит через API#

Возьмём пример. Допустим, агентный цикл отправляет 10 миллионов входных токенов и получает 2 миллиона выходных в день. Числа условные, подставьте свои из журнала использования.

На странице цен DeepSeek (22 октября 2026 года; сама страница даты не показывает) модель deepseek-flash, которую обслуживает DeepSeek-V4.1-Flash-1017, стоит так за 1 млн токенов, вне пика / в пик: вход с промахом кэша $0.15 / $0.30, выход $0.60 / $1.20. Пиковые часы — 01:00–04:00 и 06:00–10:00 UTC с понедельника по пятницу, кроме государственных праздников Китая; вне пика цена вдвое ниже. Вход с попаданием в кэш заметно дешевле ($0.003 / $0.006), поэтому цикл, который повторно отправляет один и тот же длинный префикс, выйдет ниже цифр ниже.

Для условной нагрузки, с промахами кэша:

Вне пика: 10 × $0.15 + 2 × $0.60 = $2.70 в день

В пик: 10 × $0.30 + 2 × $1.20 = $5.40 в день

В CheapTokens для такого же агентного цикла подойдёт MiniMax-M2.7 (minimax-m2.7): одна фиксированная цена в любое время суток, без пиковых окон, до 8 192 токенов в ответе, контекст 180K и один баланс на все модели. Те же 10 млн входных и 2 млн выходных токенов стоят $0.80 в день. В сумме, с учётом входа и выхода вместе, это дешевле OpenRouter; вот живая таблица для этой нагрузки:

Модель Стоимость OpenRouter
GLM-5.3-Flash $0.28 $0.565
DeepSeek-V4-Flash $0.35 $0.789
MiniMax-M2.7 $0.80 $5.40

10 000 000 входных и 2 000 000 выходных токенов всего. Цены за 1M токенов актуальны и меняются вместе с нашими тарифами; столбец OpenRouter показывает справочные цены для той же нагрузки.

Таблица при каждом показе берёт актуальный прайс, так что при смене тарифов она обновится сама. Полный прайс — на странице цен CheapTokens, а в статье цены DeepSeek API в 2026 году разобрано, как кэш и пиковые часы меняют счёт.

Когда окупается своё железо#

Локальные токены ничего не стоят за запрос, а вот машина стоит. Проверить просто:

text
дни окупаемости = цена железа ÷ (дневной счёт за API − дневная электроэнергия)

Цену железа я не называю: она слишком скачет, подставьте ту, что вам озвучили. Чтобы почувствовать масштаб, возьмём счёт вне пика по прайсу DeepSeek из примера выше. Каждая $1 000 железа выходит в ноль через столько дней счёта за API, не считая электричества и вашего времени:

1 000 ÷ 2.70 = 370.4 дня

И это при условии, что машина вообще успевает выдать такой объём, а на 9,5 токена в секунду не успевает (см. раздел про скорость выше), поэтому на агентной нагрузке окупаемость не сходится. Локально имеет смысл, если:

  • данные нельзя выпускать из вашей сети, и это важнее счёта;
  • машина у вас уже есть, а нагрузка небольшая — скажем, пара сотен запросов в день для личного инструмента;
  • вы хотите возиться с самими весами: квантованием, дообучением, движком по вкусу.

API имеет смысл, когда нагрузка — агент или сервис, когда ответ нужен за секунды или когда ваше железо ниже размеров памяти выше. А если машина мала даже для самого лёгкого файла DeepSeek, через тот же клиент можно попробовать MiniMax-M2.7 (контекст 180K, до 8 192 токенов в ответе, в сумме дешевле OpenRouter).

Переезд с локальной модели на размещённый API#

Хобби-проекты часто начинаются на Ollama и потом перерастают её. Хорошая новость: локальные движки говорят на протоколе OpenAI. Страница совместимости Ollama (docs.ollama.com, проверено 22 октября 2026 года) называет адрес http://localhost:11434/v1/; клиенту нужно какое-то значение api_key, но Ollama его игнорирует. Потоковая выдача, JSON-режим и инструменты работают, logprobs — нет.

Переключение — две строки и имя модели:

python
import os
from openai import OpenAI

# Локальная Ollama: ключ нужен клиенту, но сервер его игнорирует
# client = OpenAI(base_url="http://localhost:11434/v1/", api_key="ollama")

client = OpenAI(
    base_url="https://api.cheaptokens.dev/v1",
    api_key=os.environ["CHEAPTOKENS_API_KEY"],
)

reply = client.chat.completions.create(
    model="MiniMaxAI/MiniMax-M2.7",  # точный id берите из документации CheapTokens
    messages=[{"role": "user", "content": "Summarize this ticket in one sentence: ..."}],
    max_tokens=200,
)
print(reply.choices[0].message.content)
print(reply.usage)

Если всё работает, вы увидите краткое резюме в одно предложение и объект usage с числом токенов запроса и ответа — из этих же чисел складывается счёт. API CheapTokens понимает и формат Anthropic Messages, а документация шаг за шагом показывает первый запрос. Если base_url вам в новинку, статья про OpenAI-совместимый API и base_url займёт две минуты.

Если не работает#

  • Connection refused на localhost:11434: Ollama не запущена, или вы всё ещё указываете локальный адрес.
  • 401: ключ не подставился или скопировался с пробелом; читайте его из переменной окружения, как в примере.
  • 404 или неизвестная модель: id модели не совпадает. Локальные и облачные имена различаются, поэтому копируйте id из документации.

Что выбрать#

Если у вас от 128 ГБ памяти и просто интересно — запускайте веса дома и наслаждайтесь контролем. Если вы строите агента, который сжигает миллионы токенов в день, или сервис, где пользователь ждёт ответ, берите API, а локальную установку оставьте для экспериментов. Код в обоих случаях один и тот же, так что начать можно с любого варианта и перейти позже. О самостоятельном размещении читайте в статье что значит DeepInfer для self-hosting, а попробовать DeepSeek через API можно на странице моделей DeepSeek в CheapTokens.