DeepSeek을 로컬에서 실행할까, API를 사용할까? 하드웨어, 속도, 비용

RAM 128GB 또는 Mac Studio급 머신을 보유하고 있거나, 모든 토큰을 자체 디스크에 보관할 이유가 없다면 아마 아닐 것입니다. DeepSeek V4-Flash 파일 하나만 약 100GB이고, 한 커뮤니티 가이드에 따르면 고가의 하드웨어에서도 초당 약 6–10 토큰이라고 합니다. 대부분의 앱과 에이전트 루프에서는 OpenAI 클라이언트를 호스팅 API로 향하게 하는 것이 더 짧은 경로입니다. base_url와 키만 바꾸면 되고, 코드의 다른 부분은 그대로입니다.

아래에서는 5분 안에 자신의 머신을 확인하는 방법, 예상할 수 있는 속도, 그리고 실제 워크로드를 API로 처리할 때의 비용을 다룹니다.

DeepSeek이 메모리에 들어갈까?#

여기 나오는 크기는 DeepSeek을 로컬에서 실행하는 커뮤니티 가이드(GitHub의 deepseek-local-guide-ru, 18개 파트, CC BY 4.0, 2026년 10월 22일 열람)에서 가져왔습니다. 비공식 자료이며 DeepSeek과 제휴 관계가 없습니다. 가이드 자체의 페이지들도 크기 수치가 서로 완전히 일치하지 않으므로, 100GB 다운로드를 시작하기 전에 Hugging Face 모델 카드에서 파일 크기를 확인하세요.

가이드에 따르면 DeepSeek V4-Flash-0731은 284B 파라미터이고, 그중 토큰당 13B가 활성화됩니다. 파일은 다음과 같습니다:

모델 전체가 비디오 메모리에 올라가야 하는 것은 아닙니다. llama.cpp는 전문가 레이어를 시스템 RAM에 둘 수 있지만, 가이드의 경험칙은 단호합니다. 24GB GPU에는 128GB RAM이 함께 있어야 합니다.

24GB GPU와 64GB RAM이 있는 좋은 게이밍 PC가 있다고 해봅시다. 둘을 더해 가장 작은 파일과 비교하세요:

24 + 64 = 88GB이고, Q3 파일은 103GB입니다.

들어가지 않으며, 운영체제도 자체적으로 메모리가 필요합니다. 24GB VRAM과 128GB RAM이면 152GB가 되어 103GB 파일이 여유 있게 들어갑니다.

더 새로운 DeepSeek-V4.1-Flash-1017은 더 큽니다. 같은 가이드에 따르면 약 552B 파라미터에 196B의 Engram이 더해져 FP8에서 약 510GB, 2비트에서 약 167GB입니다. 지원도 또 다른 문제입니다. 가이드 기준(2026년 10월 22일 확인)으로 deepseek_v41 아키텍처가 지원되지 않아 Ollama에서는 실행되지 않으며, llama.cpp와 LM Studio 지원도 메인 브랜치에 없습니다. 이 부분은 빠르게 바뀌므로 계획을 세우기 전에 사용하는 엔진의 릴리스 노트를 확인하세요.

얼마나 빠른가?#

가이드는 두 가지 측정값을 제시하며, 둘 다 높은 양자화 기준이고 둘 다 커뮤니티 수치이므로 벤치마크가 아니라 대략적인 규모로 읽어야 합니다:

• 128GB의 DGX Spark, IQ2의 V4-Flash: 초당 약 6–7 토큰.
• 256GB의 Mac Studio M3 Ultra, MLX 2비트의 V4.1-Flash: 초당 약 9.5 토큰.

가이드에는 RTX 4090이나 5090에 대한 수치가 없습니다.

체감이 어떨까요? 1,000토큰 답변은 대략 한 페이지 반 분량의 텍스트입니다:

1,000 ÷ 9.5 = 105.3초

1,000 ÷ 6 = 166.7초

스트리밍으로 읽는 채팅이라면 느리지만 쓸 만합니다. 작업마다 수십 번 호출하는 에이전트라면 빠르게 누적됩니다. 루프가 하루에 2,000,000 출력 토큰을 생성하고 머신이 정말로 쉬지 않고 초당 9.5 토큰을 생성한다고 해봅시다:

2,000,000 ÷ 9.5 = 210,526초

210,526 ÷ 3,600 = 58.5시간

하루치 작업에 하루 이상의 생성 시간이 걸리는 셈입니다. 실제 서버는 여러 요청을 함께 배치 처리하므로 팀 입장에서 상황이 그렇게 암울하지는 않지만, 그 경우 제품을 만드는 대신 엔진을 튜닝하게 될 것입니다.

같은 워크로드를 API로 처리하면 얼마인가#

예시를 구체적으로 만들어 봅시다. 에이전트 루프가 하루에 1,000만 입력 토큰을 보내고 200만 출력 토큰을 받는다고 가정합니다. 가정한 수치이니 사용 로그에 있는 자신의 수치로 바꾸세요.

DeepSeek 자체 가격 페이지(2026년 10월 22일, 페이지 자체에는 날짜 표시 없음)에는 DeepSeek-V4.1-Flash-1017이 제공하는 deepseek-flash의 1M 토큰당 가격이 비수기/피크 기준으로 다음과 같이 나와 있습니다: 캐시 미스 입력 $0.15 / $0.30, 출력 $0.60 / $1.20. 피크 시간은 UTC 기준 월요일부터 금요일 01:00–04:00 및 06:00–10:00이며 중국 공휴일은 제외되고, 비수기는 피크의 절반입니다. 캐시 적중 입력은 훨씬 저렴하므로($0.003 / $0.006), 같은 긴 프리픽스를 반복 전송하는 루프는 여기 수치보다 낮게 나옵니다.

가정한 워크로드에서 캐시 미스 기준:

비수기: 10 × $0.15 + 2 × $0.60 = 하루 $2.70

피크: 10 × $0.30 + 2 × $1.20 = 하루 $5.40

CheapTokens에서 같은 종류의 에이전트 루프에는 MiniMax-M2.7(minimax-m2.7)을 사용하세요: 시간대와 무관한 단일 고정 가격, 피크 시간대 없음, 답변당 최대 8,192 출력 토큰, 180K 컨텍스트, 모든 모델에 하나의 잔액. 같은 1,000만 입력 및 200만 출력 토큰의 비용은 하루 $0.80입니다. 전반적으로 입력과 출력을 합산하면 OpenRouter보다 저렴합니다. 바로 이 워크로드에 대한 실시간 표는 다음과 같습니다:

이 표는 표시될 때마다 현재 가격표를 읽으므로 가격이 바뀌어도 정확하게 유지됩니다. 전체 가격표는 CheapTokens 가격 페이지에 있고, 2026년 DeepSeek API 가격에서는 캐시 적중과 피크 시간대가 청구서를 어떻게 바꾸는지 설명합니다.

자체 하드웨어는 언제 이득인가?#

로컬 토큰은 요청당 비용이 들지 않지만, 머신에는 비용이 듭니다. 간단한 확인 방법:

payback days = hardware price ÷ (daily API bill − daily electricity)

하드웨어 가격은 변동이 너무 커서 여기서 제시하지 않습니다. 견적받은 가격을 넣으세요. 감을 잡기 위해 위 DeepSeek 가격 페이지의 비수기 청구서를 사용해 봅시다. 하드웨어 $1,000마다 전기료와 자신의 시간을 제외하고 손익분기까지 필요한 API 청구서 일수는 다음과 같습니다:

1,000 ÷ 2.70 = 370.4일

그리고 이는 머신이 이 볼륨을 아예 처리할 수 있다는 가정하입니다. 초당 9.5 토큰으로는 불가능하므로(위 속도 섹션 참고), 에이전트 워크로드에서는 회수가 맞지 않습니다. 로컬이 더 합리적인 경우는 다음과 같습니다:

• 데이터가 네트워크를 벗어나면 안 되고, 그것이 청구서보다 더 중요할 때;
• 이미 머신을 보유하고 있고 부하가 가벼울 때, 예를 들어 개인 도구로 하루 수백 건의 요청 정도일 때;
• 가중치 자체를 실험하고 싶을 때: 양자화, 파인튜닝, 원하는 엔진.

API가 더 합리적인 경우는 워크로드가 에이전트나 서비스일 때, 몇 초 안에 답이 필요할 때, 또는 하드웨어가 위 메모리 크기보다 낮을 때입니다. 가장 가벼운 DeepSeek 파일에도 머신이 너무 작다면, MiniMax-M2.7(180K 컨텍스트, 답변당 최대 8,192 출력 토큰, 전반적으로 OpenRouter보다 저렴)이 같은 클라이언트로 시도해 볼 모델입니다.

로컬에서 호스팅 API로 옮기기#

취미 프로젝트는 흔히 Ollama로 시작했다가 그것을 넘어섭니다. 좋은 소식은 로컬 엔진들이 OpenAI 프로토콜을 사용한다는 점입니다. Ollama의 호환성 페이지(docs.ollama.com, 2026년 10월 22일 확인)에는 엔드포인트 http://localhost:11434/v1/이 나와 있습니다. 클라이언트에는 api_key 값이 필요하지만 Ollama는 이를 무시합니다. 스트리밍, JSON 모드, 도구는 작동하고 logprobs는 작동하지 않습니다.

따라서 전환은 두 줄에 모델 이름만 더하면 됩니다:

import os
from openai import OpenAI

# Local Ollama: the key is required by the client but ignored by the server
# client = OpenAI(base_url="http://localhost:11434/v1/", api_key="ollama")

client = OpenAI(
    base_url="https://api.cheaptokens.dev/v1",
    api_key=os.environ["CHEAPTOKENS_API_KEY"],
)

reply = client.chat.completions.create(
    model="MiniMaxAI/MiniMax-M2.7",  # take the exact id from the CheapTokens docs
    messages=[{"role": "user", "content": "Summarize this ticket in one sentence: ..."}],
    max_tokens=200,
)
print(reply.choices[0].message.content)
print(reply.usage)

작동하면 한 문장 요약과 프롬프트 및 완료 토큰 수가 담긴 usage 객체가 보입니다. 청구서가 산출되는 기준과 같은 수치입니다. CheapTokens API는 Anthropic Messages 형식도 받으며, 문서에서 첫 요청을 단계별로 보여줍니다. base_url가 처음이라면 OpenAI 호환 API: base_url이란 무엇인가를 2분이면 읽을 수 있습니다.

작동하지 않을 때#

• localhost:11434에서 Connection refused: Ollama가 실행 중이 아니거나, 여전히 로컬 주소를 가리키고 있습니다.
• 401: 키가 없거나 공백과 함께 복사되었습니다. 예시처럼 환경 변수에서 읽으세요.
• 404 또는 알 수 없는 모델: 모델 id가 일치하지 않습니다. 로컬 이름과 호스팅 이름은 다르므로 문서에서 id를 복사하세요.

무엇을 선택할까#

128GB 이상을 보유하고 있고 호기심이 있다면, 집에서 가중치를 실행하며 제어권을 즐기세요. 하루에 수백만 토큰을 소모하는 에이전트나 사용자가 답을 기다리는 서비스를 만든다면 API를 사용하고 로컬 설정은 실험용으로 남겨 두세요. 어느 쪽이든 코드는 동일하게 유지되므로 하나로 시작해 나중에 다른 쪽으로 옮길 수 있습니다. 셀프 호스팅 측면에 대해서는 DeepInfer가 셀프 호스팅에 의미하는 것을 참고하고, API로 DeepSeek을 사용해 보려면 CheapTokens DeepSeek 모델을 참고하세요.