딥시크, 실서비스 추론 엔진 'DeepInfer' 오픈소스 공개 — 블랙웰·어센드 950 전용, KV 캐시는 빠졌다

이 글은 딥시크 깃허브 저장소·배포 문서·허깅페이스 모델 카드와 언론 보도를 바탕으로 한 공개 자료 분석이다. 코드를 빌드하거나 성능을 재현하지 않았다.

누구에게 중요한가

• DeepSeek 모델을 자체 서버에 올리려는 기업·연구실: 딥시크가 실제 서비스에 쓰는 최적화 기법을 공개 코드로 볼 수 있게 됐다.
• 추론 비용을 다루는 MLOps·인프라 엔지니어: 추측 디코딩, 전문가 병렬화(EP), 프리필 축소 같은 기법의 실서비스 구현이 공개됐다.
• 블랙웰(B200·GB200)이나 어센드 950을 확보한 클라우드·호스팅 업체: 바로 시험해 볼 수 있는 대상이다.
• H100·A100 위주로 GPU를 보유한 국내 팀: 공식 지원 대상이 아니어서 기대치를 조정해야 한다.

확인된 사실 — 딥시크 공식 자료 기준

DeepInfer 깃허브 저장소는 이 프로젝트를 "DeepSeek 모델을 위한 고성능·대규모 추론 프레임워크"로 소개하고, 자사 서비스의 기반이라고 적었다. 이번 공개는 "대규모 서빙에 필요한 핵심 기능을 갖춘 오프라인 추론"이라고 범위를 밝혔다. 원래 vLLM을 바탕으로 만들었고 SGLang·TensorRT-LLM에서 아이디어를 얻었다고 감사 문구에 적었다.

주요 기능은 저장소 README에 정리돼 있다. 어텐션 데이터 병렬화와 MoE 전문가 병렬화(EP+EPLB), 초안 토큰을 신뢰도에 따라 골라 검증하는 추측 디코딩(DSpark), 슬라이딩 윈도 어텐션 구간의 프리필 재계산을 줄이는 기법, 비동기 스케줄링, 정규식·JSON 스키마·EBNF 기반 구조화 출력이 포함된다. 실행마다 같은 결과를 내는 배치 불변 추론과 결정적 샘플링은 엔비디아에서만 동작한다고 명시돼 있다.

모델 쪽 정보는 허깅페이스 V4.1-Flash-1017 모델 카드에 있다. 모델 크기는 7630억 파라미터, 권장 컨텍스트는 100만 토큰이며 저장소와 가중치 모두 MIT 라이선스다. 함께 공개된 deepseek-recipe는 딥시크 공식 API와 같은 방식으로 요청을 토큰으로 바꾸는 라이브러리다.

운영 수치 — 공개됐지만 회사 자체 발표

딥시크는 배포 Q&A 문서에서 실제 운영 구조를 꽤 자세히 공개했다. 외부 기관이 검증한 수치는 아니다.

README의 성능 그래프는 프리필에 SM100 GPU 4장, 디코드에 64장을 써서 측정했다. 즉 성능 그래프는 여러 노드에 걸친 블랙웰 구성을, 운영 수치는 GPU 128장 이상 배포를 전제로 한다.

미확인·전망 (사실과 구분)

• H100·A100에서의 동작: README에 적힌 지원 하드웨어는 SM100과 어센드 950뿐이다. 호퍼·앰페어 세대에서 빌드되거나 돌아가는지는 공식 자료로 확인되지 않아 미확인이다.
• 한국어 품질: DeepInfer는 추론 엔진이라 언어와 직접 관계는 없다. 다만 대상 모델인 V4.1-Flash 모델 카드에도 지원 언어 목록이 없어 한국어 성능은 미확인이다.
• 국내 클라우드에서 SM100 확보: 국내 리전에서 B200·GB200 인스턴스를 바로 빌릴 수 있는지, 어센드 950을 국내에서 쓸 수 있는지는 공식 자료가 없어 미확인이다.
• 향후 공개 범위: 딥시크는 앞으로 나올 모델의 추론 코드도 같은 저장소에 올리겠다고 했다고 SiliconANGLE이 전했다. KV 캐시·부하 분산 코드는 내부 인프라와 강하게 묶여 있다는 이유로 빠졌고, 공개 시점은 밝히지 않았다.
• 미국 정부 조치: SiliconANGLE과 The Next Web은 공개 하루 전 미국 정부가 연방 민간기관에 딥시크 제품 제거를 지시했다고 보도했다. 이 글에서는 해당 지시 원문을 확인하지 못했다.

국내 개발팀에 미치는 영향

가장 실용적인 의미는 "딥시크가 자기 모델을 어떻게 싸게 돌리는지"를 코드 수준에서 볼 수 있게 됐다는 점이다. 추측 디코딩, 대규모 전문가 병렬화, 프리필 축소 같은 기법은 vLLM·SGLang을 쓰는 팀에게도 참고가 된다. The Next Web은 vLLM 프로젝트가 DeepInfer의 아이디어를 반영해 V4.1-Flash 지원을 개선하겠다고 밝혔다고 전했다.

반면 소규모 자체 호스팅 비용이 당장 내려간다고 보기는 어렵다. 공개 수치는 GPU 128장 단위 배포를 전제로 하고, 대규모 운영에 필수인 KV 캐시·프리필·디코드 분리 코드는 빠졌다. GPU 몇 장으로 V4.1-Flash를 돌리려는 팀이라면 모델 카드가 권장하는 vLLM·SGLang 경로가 여전히 현실적이다.

API로 쓰는 경우는 별개다. 딥시크 API 가격표는 달러로만 표시되며, V4.1-Flash 기준 100만 토큰당 입력(캐시 미적중) 0.150.3달러, 출력 0.61.2달러다. 피크 시간(평일 UTC 0104시, 0610시)은 한국 시간 평일 오전 10시오후 1시, 오후 3시7시에 해당해 국내 업무 시간과 겹친다. 그 밖의 시간은 절반 가격이다. 원화 공식 가격은 없다.

한계

이 글은 10월 20~21일 확인한 딥시크 깃허브 저장소(README·배포 Q&A·라이선스), 허깅페이스 모델 카드, 딥시크 API 가격 페이지, 언론 보도만을 근거로 했다. 처리량·매출·성능 그래프는 모두 딥시크 자체 수치이며 외부 재현 결과는 아직 없다. 이전 세대 GPU 지원, 한국어 성능, 국내 클라우드 제공 여부는 확인할 수 없었다. API 가격은 바뀔 수 있다.

최종 확인일 2026-10-21.