Volver al blog

Optimización de costosComparativa

¿Ejecutar DeepSeek localmente o usar una API? Hardware, velocidad, costo

Comprueba si tu GPU y RAM pueden ejecutar DeepSeek V4-Flash, qué velocidad esperar y cuándo cambiar base_url es más sencillo. Incluye una tabla de costos.

Por CheapTokens TeamPublicado el Actualizado el 8 min de lectura

Dos columnas, Local y API, que comparan ejecutar DeepSeek en tu propio hardware con llamar a una API alojada cambiando base_url
En esta página
  1. ¿Cabe DeepSeek en tu memoria?
  2. ¿Qué tan rápido es?
  3. Cuánto cuesta la misma carga de trabajo a través de una API
  4. ¿Cuándo vale la pena tu propio hardware?
  5. Pasar de local a una API alojada
  6. Si no funciona
  7. Cuál elegir

Probablemente no, a menos que tengas 128 GB de RAM o una máquina de la clase Mac Studio, o tengas una razón para mantener cada token en tu propio disco. Solo el archivo de DeepSeek V4-Flash ronda los 100 GB, y una guía de la comunidad reporta aproximadamente 6–10 tokens por segundo incluso en hardware caro. Para la mayoría de las apps y bucles de agentes, la ruta más corta es apuntar el cliente de OpenAI a una API alojada: cambias base_url y la clave, y nada más en tu código.

A continuación: cómo comprobar tu propia máquina en cinco minutos, qué velocidad esperar y cuánto cuesta una carga de trabajo real a través de una API.

¿Cabe DeepSeek en tu memoria?#

Los tamaños aquí provienen de una guía de la comunidad para ejecutar DeepSeek localmente (deepseek-local-guide-ru en GitHub, 18 partes, CC BY 4.0, leída el 22 de octubre de 2026). No es oficial y no está afiliada a DeepSeek. Las propias páginas de la guía no coinciden del todo entre sí en los tamaños, así que confirma el tamaño del archivo en la model card de Hugging Face antes de iniciar una descarga de 100 GB.

Según la guía, DeepSeek V4-Flash-0731 tiene 284B parámetros, de los cuales 13B están activos por token. Los archivos:

Cuantización Tamaño del archivo (cifra de la guía)
Q3 unos 103 GB
Q4 unos 155 GB
Q8 unos 162 GB

El modelo no tiene que estar completamente en la memoria de video. llama.cpp puede mantener las capas de expertos en la RAM del sistema, pero la regla general de la guía es contundente: una GPU de 24 GB necesita 128 GB de RAM a su lado.

Supongamos que tienes una buena PC gamer con una GPU de 24 GB y 64 GB de RAM. Suma los dos y compáralo con el archivo más pequeño:

24 + 64 = 88 GB, y el archivo Q3 es de 103 GB.

No cabe, y el sistema operativo todavía necesita memoria propia. Con 24 GB de VRAM y 128 GB de RAM tienes 152 GB, y el archivo de 103 GB cabe con espacio de sobra.

El más nuevo DeepSeek-V4.1-Flash-1017 es más grande: unos 552B parámetros más 196B de Engram, alrededor de 510 GB en FP8 y unos 167 GB a 2 bits, según la misma guía. El soporte es el otro problema. Según la guía (verificada el 22 de octubre de 2026) no se ejecuta en Ollama, porque la arquitectura deepseek_v41 no es compatible, y el soporte de llama.cpp y LM Studio no está en sus ramas principales. Esto cambia rápido, así que revisa las notas de la versión de tu motor antes de planificar en torno a ello.

¿Qué tan rápido es?#

La guía da dos mediciones, ambas con cuantización pesada y ambas cifras de la comunidad, así que léelas como órdenes de magnitud y no como un benchmark:

  • DGX Spark con 128 GB, V4-Flash en IQ2: unos 6–7 tokens por segundo.
  • Mac Studio M3 Ultra con 256 GB, V4.1-Flash en MLX 2 bits: unos 9.5 tokens por segundo.

La guía no tiene cifra para una RTX 4090 o 5090.

¿Cómo se siente eso? Una respuesta de 1,000 tokens es aproximadamente una página y media de texto:

1,000 ÷ 9.5 = 105.3 segundos

1,000 ÷ 6 = 166.7 segundos

Para un chat que lees mientras se transmite, es lento pero usable. Para un agente que hace docenas de llamadas por tarea, se acumula rápido. Supongamos que tu bucle produce 2,000,000 de tokens de salida al día y la máquina realmente genera 9.5 tokens por segundo sin descanso:

2,000,000 ÷ 9.5 = 210,526 segundos

210,526 ÷ 3,600 = 58.5 horas

Eso es más de un día de generación para un día de trabajo. Los servidores reales agrupan varias solicitudes juntas, así que el panorama no es tan sombrío para un equipo, pero estarías ajustando el motor en lugar de construir tu producto.

Cuánto cuesta la misma carga de trabajo a través de una API#

Hagamos el ejemplo concreto. Supongamos un bucle de agente que envía 10 millones de tokens de entrada y obtiene 2 millones de tokens de salida al día. Estos son números supuestos, reemplázalos por los tuyos del registro de uso.

La propia página de precios de DeepSeek (22 de octubre de 2026, la página en sí no muestra fecha) lista deepseek-flash, servido por DeepSeek-V4.1-Flash-1017, a estos precios por 1M de tokens, fuera de hora pico / hora pico: entrada con fallo de caché $0.15 / $0.30, salida $0.60 / $1.20. Las horas pico son 01:00–04:00 y 06:00–10:00 UTC, de lunes a viernes, excluyendo festivos públicos chinos; fuera de hora pico es la mitad de la hora pico. La entrada con acierto de caché es mucho más barata ($0.003 / $0.006), así que un bucle que reenvía el mismo prefijo largo quedará por debajo de los números aquí.

Para la carga de trabajo supuesta, con fallos de caché:

Fuera de hora pico: 10 × $0.15 + 2 × $0.60 = $2.70 por día

Hora pico: 10 × $0.30 + 2 × $1.20 = $5.40 por día

En CheapTokens, para el mismo tipo de bucle de agente, toma MiniMax-M2.7 (minimax-m2.7): un precio fijo a cualquier hora, sin ventana de hora pico, hasta 8,192 tokens de salida por respuesta, un contexto de 180K y un solo saldo para todos los modelos. Los mismos 10M de tokens de entrada y 2M de salida cuestan $0.80 por día. En general, contando entrada y salida juntas, es más barato que OpenRouter; aquí está la tabla en vivo para exactamente esta carga de trabajo:

Modelo Costo OpenRouter
GLM-5.3-Flash $0.28 $0.565
DeepSeek-V4-Flash $0.35 $0.789
MiniMax-M2.7 $0.80 $5.40

10.000.000 tokens de entrada y 2.000.000 tokens de salida en total. Los precios por 1M de tokens son actuales y cambian junto con nuestras tarifas; la columna de OpenRouter muestra precios de referencia para la misma carga de trabajo.

La tabla lee la lista de precios actual cada vez que se muestra, así que se mantiene correcta cuando cambian los precios. La lista de precios completa está en la página de precios de CheapTokens, y Precios de la API de DeepSeek en 2026 explica cómo los aciertos de caché y las horas pico cambian una factura.

¿Cuándo vale la pena tu propio hardware?#

Los tokens locales no cuestan nada por solicitud, pero la máquina sí. Una forma sencilla de comprobarlo:

text
payback days = hardware price ÷ (daily API bill − daily electricity)

No doy un precio de hardware aquí porque se mueve demasiado; pon el que te cotizaron. Para hacerte una idea, toma la factura fuera de hora pico de la página de precios de DeepSeek de arriba. Cada $1,000 de hardware necesita esta cantidad de días de la factura de la API para amortizarse, antes de electricidad y tu propio tiempo:

1,000 ÷ 2.70 = 370.4 días

Y eso asume que la máquina puede entregar este volumen en absoluto: a 9.5 tokens por segundo no puede (ver la sección de velocidad arriba), así que para una carga de trabajo de agente la amortización no cuadra. Local tiene más sentido cuando:

  • los datos no deben salir de tu red, y eso importa más que la factura;
  • ya tienes la máquina y la carga es ligera, digamos unos cientos de solicitudes al día para una herramienta personal;
  • quieres experimentar con los propios pesos: cuantización, fine-tuning, un motor de tu elección.

Una API tiene más sentido cuando la carga de trabajo es un agente o un servicio, cuando necesitas la respuesta en segundos, o cuando tu hardware está por debajo de los tamaños de memoria anteriores. Si tu máquina es demasiado pequeña incluso para el archivo más ligero de DeepSeek, MiniMax-M2.7 (contexto de 180K, hasta 8,192 tokens de salida por respuesta, en general más barato que OpenRouter) es un modelo para probar a través del mismo cliente.

Pasar de local a una API alojada#

Los proyectos de hobby a menudo empiezan en Ollama y luego se le quedan pequeños. La buena noticia: los motores locales hablan el protocolo de OpenAI. La página de compatibilidad de Ollama (docs.ollama.com, verificada el 22 de octubre de 2026) muestra el endpoint http://localhost:11434/v1/; el cliente necesita algún valor api_key, pero Ollama lo ignora. Streaming, modo JSON y herramientas funcionan; logprobs no.

Así que el cambio son dos líneas más el nombre del modelo:

python
import os
from openai import OpenAI

# Local Ollama: the key is required by the client but ignored by the server
# client = OpenAI(base_url="http://localhost:11434/v1/", api_key="ollama")

client = OpenAI(
    base_url="https://api.cheaptokens.dev/v1",
    api_key=os.environ["CHEAPTOKENS_API_KEY"],
)

reply = client.chat.completions.create(
    model="MiniMaxAI/MiniMax-M2.7",  # take the exact id from the CheapTokens docs
    messages=[{"role": "user", "content": "Summarize this ticket in one sentence: ..."}],
    max_tokens=200,
)
print(reply.choices[0].message.content)
print(reply.usage)

Cuando funciona ves un resumen de una frase y un objeto usage con los recuentos de tokens de prompt y completion, los mismos números sobre los que se construye tu factura. La API de CheapTokens también acepta el formato Anthropic Messages, y la documentación muestra la primera solicitud paso a paso. Si base_url es nuevo para ti, API compatible con OpenAI: qué es base_url toma dos minutos.

Si no funciona#

  • Connection refused en localhost:11434: Ollama no está ejecutándose, o sigues apuntando a la dirección local.
  • 401: falta la clave o se copió con un espacio; léela desde una variable de entorno, como en el ejemplo.
  • 404 o un modelo desconocido: el id del modelo no coincide. Los nombres locales y los alojados difieren, así que copia el id de la documentación.

Cuál elegir#

Si tienes 128 GB o más y tienes curiosidad, ejecuta los pesos en casa y disfruta del control. Si construyes un agente que consume millones de tokens al día, o un servicio donde los usuarios esperan la respuesta, usa la API y mantén la configuración local para experimentos. El código sigue siendo el mismo de cualquier manera, así que puedes empezar con uno y pasar al otro después. Para más sobre el lado del self-hosting, consulta qué significa DeepInfer para el self-hosting; para probar DeepSeek a través de la API, consulta modelos DeepSeek de CheapTokens.