분석

'DeepSeek V4.1-Flash 내부: KV 캐시, 1017 업데이트, Harness 스택'

DeepSeek에 따르면 V4.1-Flash의 글로벌 KV 캐시는 V4-Flash의 약 4분의 1이다. 구조, 1017 업데이트의 변화, 비용, 검증되지 않은 부분.

작성: Audryk · 2026년 11월 2일

• 모델
• #DeepSeek
• #V4.1-Flash
• #KV 캐시
• #Mixture of Experts
• #오픈 웨이트
• #DeepSeek Harness

2026년 11월 2일 기준으로 DeepSeek은 V4.1-Flash를 공개했고(9월 10일), 기술 논문을 발표했으며(9월 17일), 모델을 V4.1-Flash-1017(10월 17일)로 업데이트했다. 오픈소스 에이전트 프레임워크 DeepSeek Harness와 유료 검색·가져오기 API도 함께 내놓았다. DeepSeek에 따르면 기술적 핵심은 토큰당 890바이트의 글로벌 KV 캐시로, V4-Flash의 약 4분의 1이다. 아래 벤치마크는 모두 DeepSeek 자체 수치이며, 독립적인 테스트는 찾지 못했고 우리가 모델을 실행해 보지도 않았다.

핵심 정리

• 공개된 것: 오픈 웨이트(MIT) 멀티모달 Mixture-of-Experts 모델(1M 토큰 컨텍스트), KV 캐시 압축에 관한 논문, 같은 API id의 1017 업데이트, 그리고 Harness.
• 기술적 발상: 에이전트의 제약은 모델 크기만이 아니라 KV 캐시와 입력이 많은 워크로드다. DeepSeek은 캐시를 층 사이에서 공유하고 FP4로 저장해 줄인다.
• 주요 수치(DeepSeek에 따르면): 글로벌 KV는 V4-Flash의 약 1/4, 영속 KV는 약 1/8. DeepSWE v1.1에서 74.2, Terminal-Bench 2.1에서 90.6(1017 이후 DeepSWE는 77.0).
• 사용: deepseek-flash는 캐시 미스 입력이 100만 토큰당 0.15달러부터(오프피크, 피크 시 0.30달러). 가중치는 Hugging Face와 ModelScope에서 받을 수 있다.
• 검증되지 않은 부분: 독립적인 벤치마크, 실제 처리량, 지연 시간, 서빙 비용, 그리고 552B와 763B 파라미터의 차이.

DeepSeek은 무엇을 어떤 순서로 공개했나

아래 순서는 DeepSeek의 API 변경 이력에 근거하며, Harness 출시일은 Startup Fortune에서 가져왔다.

출처: DeepSeek API 변경 이력, Startup Fortune, GitHub.

9월 10일 DeepSeek은 V4.1-Flash를 새 아키텍처 계열에서 가장 작은 모델이라고 소개하며 이미지를 네이티브로 이해한다고 밝혔다. V4-Flash와 V4-Flash-Vision-Exp는 폐기되었고 이름은 V4.1-Flash로 리디렉션된다. SiliconANGLE는 10월 15일에 다섯 시간 가까운 API 장애가 있었다고 보도했다. 연구용 프로토타입 dsh-superagent는 10월 31일에 등장했다. 비공식이며 다른 기사에서 다룬다.

아키텍처는 어떻게 KV 캐시를 줄이나

생성하는 동안 트랜스포머는 이전의 모든 토큰에 대한 키(key)와 값(value), 즉 KV 캐시를 저장한다. 그래서 긴 컨텍스트나 큰 입력을 반복해서 다시 읽는 에이전트 루프는 캐시 메모리에 제약을 받는다. DeepSeek은 세 군데에서 이 문제를 공략한다.

출처: Hugging Face 모델 카드, arXiv 논문(DeepSeek).

Causal Encoder-Decoder(CED). 40개 층(히든 크기 5120)은 20층 인과 인코더와 20층 디코더로 나뉜다. 디코더의 글로벌 KV는 디코더 상태에서 계산하는 대신, 인코더 20층의 출력에서 층마다 별도의 가중치로 투영한다. 따라서 프리필 때 대부분의 프롬프트 토큰은 전체 디코더를 거치지 않는다. 논문은 이 절감을 프리필 연산량의 대략 절반으로 본다. 활성 파라미터가 프리필에서 8B, 디코드에서 16B인 이유다. 디코더의 슬라이딩 윈도 KV는 여전히 층마다 계산한다.

Compressed Sparse Attention 2(CSA2). 각 층은 정적 모드를 하나씩 가진다.

• Full: 자체 메인 KV, 인덱서 쿼리와 키, 새로운 top-k를 계산한다.
• Reindex: 앞선 층의 메인 KV와 인덱서 키를 재사용하고, 자체 인덱서 쿼리를 가지며, top-k를 다시 계산한다.
• Reuse: 메인 KV와 top-k 인덱스를 재사용한다. 인덱서는 전혀 없다.

인코더에서 1층과 2층은 순수 슬라이딩 윈도 어텐션(SWA)이고, 압축 m=2인 CSA2 18개 층이 여섯 층씩 세 묶음(1 Full + 5 Reuse)을 이룬다. 디코더는 m=1인 CSA2 20개 층으로, 1 Full + 3 Reuse 묶음 하나에 이어 1 Reindex + 3 Reuse 묶음 네 개가 있다. top-k는 512이고 슬라이딩 윈도는 128토큰이다. 계층형 인덱서 덕분에 첫 번째 Full 층이 8개 위치로 이루어진 블록 2,048개(16,384개 위치의 풀)를 고르고, 이를 Reindex 층만 점수화한다.

FP4와 SWA Bounded Replay.

• FP4: 메인 KV는 FP4(E2M1, 16채널마다 E4M3 스케일 하나, RoPE 이후 양자화)로 저장하고, SWA KV는 FP8로 남는다. V4의 FP8과 비교하면 용량이 대략 절반이 된다. 시점에 대해서는 논문 내용이 일관되지 않다. 서론은 학습 중 FP4라고 하지만, 2.4.4절은 사후 학습의 QAT로 둔다.
• SWA Bounded Replay: SWA KV는 더 이상 영속 저장하지 않고, 마지막 128토큰을 재생해서 복원한다. 글로벌 KV는 최소 72시간 보장되며, SWA KV는 호스트 DRAM에 몇 분 동안 머문다.

출처: arXiv 논문, Hugging Face 모델 카드. 값은 논문의 비율에 따른 상대값이다.

나머지 스택은 DeepSeek에 따르면 다음과 같다.

• MoE: 공유 전문가 1개와 라우팅 전문가 384개, 토큰마다 라우팅 6개 활성, 중간 크기 2,304, SwiGLU.
• Engram: 희소 조건부 메모리, 파라미터 196B, 모듈 두 개(1층과 14층).
• DSpark: 추측 디코딩. 3블록 드래프터가 5개 위치를 병렬로 예측한다. 우리가 읽은 논문 부분에는 수락률이나 속도 향상 수치가 없다.

논문의 유일한 정량적 효율 주장은 컨텍스트가 4K에서 1M이 될 때 디코드 FLOPs가 약 4분의 1 늘어난다는 것이다. 우리가 읽은 부분에는 890바이트의 내역, 처리량, 지연 시간, 절제 실험이 나와 있지 않다.

DeepSeek은 무엇을, 누구와 비교해 측정하나

학습에는 45T 토큰(텍스트 대 멀티모달 7:1)이 쓰였고, 컨텍스트는 34T 토큰 시점에 1M으로 확장되었다. 사후 학습은 SFT, RL, 온폴리시 증류 순으로 진행된다. 모델 카드는 성능 향상의 원인을 새로운 알고리즘이 아니라 데이터 파이프라인(합성한 에이전트 작업과 환경)으로 돌린다.

출처: Hugging Face 모델 카드. 벤치마크는 DeepSeek의 것이며 독립 검증이 아니다.

DeepSeek의 표는 Opus-5.0(Anthropic) 및 GPT-5.6 Sol과도 비교한다. 수치는 공개된 그대로 옮긴다. DeepSeek에 따르면 V4.1-Flash는 GPQA Diamond에서 90.9(Opus-5.0은 93.4, GPT-5.6 Sol은 94.1), Terminal-Bench 3.0에서 30.0(43.3과 34.4), HLE에서 36.8(56.3과 44.5, 텍스트 전용 부분집합은 따로 표시)을 기록한다. CyberGym에서는 88.1(GPT-5.6 Sol은 84.5), AutomationBench에서는 54.8(50.3과 45.8)이라고 보고한다. 즉 DeepSeek 자체 표에 따르면 비공개 모델은 여러 테스트(HLE, Terminal-Bench 3.0, ZeroBench 같은 일부 시각 테스트로 49.0 대 GPT-5.6 Sol 53.0)에서 계속 앞선다. SiliconANGLE는 이번 업데이트에서 공개된 벤치마크 11개 중 7개에서 Opus-5.0이 앞선다고 센다.

모델 카드에 따른 베이스 모델은 다음과 같다.

V4-Pro-Base는 파라미터가 1.6T이며, SimpleQA-Verified, MATH, LongBench-V2에서는 V4.1-Flash-Base보다 계속 앞선다.

1017 업데이트는 무엇을 바꾸나

V4.1-Flash-1017은 id deepseek-flash와 같은 가격을 유지한다. DeepSeek은 9월 버전에서 1017로 오면서 다음과 같은 향상이 있었다고 보고한다. 도구 없는 HLE는 36.8에서 42.6(텍스트 전용은 44.0), DeepSWE v1.1은 74.2에서 77.0, Terminal-Bench 4.0은 31.2에서 42.3이다.

출처: DeepSeek API 변경 이력(2026년 10월 17일). 자체 보고.

실행 시간과 출력 길이도 수치 없이 줄었다. Harness 0.2.1-rc.1 이상을 권장한다. SiliconANGLE에 따르면 이 모델은 Harness와 Tencent의 CodeBuddy 및 WorkBuddy에 맞춰 조정되었다. DeepSeek은 이번 릴리스를 성능과 비용의 파레토 개선이라고 부른다. Startup Fortune은 이것이 DeepSeek 자신의 판단이며 시점이 자사 스택에 유리하다고 지적하면서도, MIT 라이선스 덕분에 다른 쪽도 경쟁 도구에서 이 모델을 쓸 수 있다고 덧붙인다. Neomanex는 고정 버전이 발표되지 않았다고 지적하며, 출력이 짧아지면 파서와 토큰 예산이 깨질 수 있으니 평가를 다시 돌려 보라고 권한다.

추론에는 얼마가 들고 어떻게 조절하나

추론 노력 수준은 1에서 100까지 조절할 수 있다. API에서 max는 100, high는 75, low는 50이며, instruct 결과는 100을 쓴다.

출처: arXiv 논문, 5.3.3절. 자체 보고.

노력 수준을 25에서 100으로 올리면 출력 토큰이 약 2.5배 더 든다. 60~80이면 토큰의 절반 미만으로 향상분 대부분을 얻는다. 스캐폴드도 영향을 준다(DeepSWE v1.1 / Terminal-Bench 2.1, 모델 카드 기준). mini-SWE는 74.2 / 90.3, DSH Minimal은 72.6 / 90.6, DSH Standard는 70.5 / 85.8이다. 다른 하니스(Claude Code, Codex, OpenCode, Pi)는 DeepSWE에서 65.5~69.8이고, Terminal-Bench 2.1은 84.1(Codex)에서 90.6까지 걸친다. 에이전트가 여럿일 때, 논문은 ProgramBench Almost@1이 8시간 시점에 에이전트 하나의 20.39%에 비해 30.04%라고 보고한다.

비용은 얼마이고 어떻게 쓰나

deepseek-flash는 V4.1-Flash-1017이고 deepseek-v4-pro는 V4-Pro-0813이다. 옛 이름은 Flash 가격으로 Flash에 리디렉션된다. 둘 다 1M 컨텍스트, 최대 출력 384K, 사고 모드와 비사고 모드, JSON, 도구 호출, Responses API, Anthropic 호환 API를 제공하며, 비전은 Flash만 지원한다.

피크 시간은 중국 공휴일을 제외한 월요일부터 금요일까지 01:00~04:00와 06:00~10:00(UTC)이고, 나머지는 오프피크다.

• 검색·가져오기 API: 성공한 요청 1,000건당 각각 0.75달러이며, 11월 1일까지 무료였고 2026년 11월 1일 베이징 시간 00:00부터 요청당 과금된다. 검색은 순위가 매겨진 결과를 최대 50개 반환하고, 가져오기는 페이지를 Markdown으로 변환한다(SiliconANGLE). Harness, Claude Code, Codex를 통해 서버 측에서 호출할 수 있다.
• DeepSeek Harness: 공식 오픈소스 에이전트 프레임워크(dsh, MIT). 모든 것이 플러그인(모델 어댑터, 도구, 로그, 에이전트 루프)이며 웹 인터페이스를 갖췄다. 저장소는 github.com/deepseek-ai/deepseek-harness. 보도된 스타 수는 출처마다 엇갈려(Startup Fortune, HelloGitHub) 수치는 싣지 않는다.
• 직접 실행하기: vllm serve "deepseek-ai/DeepSeek-V4.1-Flash"(OpenAI 호환, 이미지 입력), 또는 python3 -m sglang.launch_server --model-path "deepseek-ai/DeepSeek-V4.1-Flash", 혹은 device_map="auto"를 지정한 Transformers. Jinja 채팅 템플릿은 없다. encoding 폴더의 참조 Python 코드를 쓰거나, 프로덕션에서는 Rust 라이브러리 deepseek-recipe를 쓴다. 카드에는 최소 하드웨어가 적혀 있지 않다.

확인되지 않은 부분은 무엇인가

우리가 찾은 범위에서는 독립적인 테스트가 없으며, Opus-5.0 및 GPT-5.6 Sol과의 비교는 DeepSeek이 한 것이다. 카드와 논문은 백본 파라미터를 552B라고 하는데 Safetensors 메타데이터는 763B를 보여 준다. Engram의 196B이거나 비전 인코더일 수 있지만 확인되지 않았다. 실제 처리량, 지연 시간, 서빙 비용은 공개되지 않았고, 절제 실험은 정량화되지 않았으며, DSpark의 실제 이득은 알 수 없고, 최소 하드웨어도 명시되지 않았다. 1017이 긴 출력에 미치는 영향은 측정하지 않았다.

요약표

자주 묻는 질문

모델이 정말 4배 가벼워졌나

아니다. DeepSeek에 따르면 V4-Flash의 약 4분의 1이 되는 것은 모델이 아니라 HBM의 글로벌 KV 캐시(토큰당 890바이트)다. 본문은 파라미터를 552B, 메타데이터는 763B라고 하지만 설명은 없다.

직접 실행할 수 있나

가중치는 MIT이고 카드에 vLLM, SGLang, Transformers 사용법이 적혀 있다. 최소 하드웨어는 명시되어 있지 않아 무엇이 필요한지는 우리도 말할 수 없다.

1017 업데이트로 가격이나 id가 바뀌나

바뀌지 않는다. id는 deepseek-flash 그대로이고 가격도 같다. 고정 버전은 발표되지 않았으니 평가를 다시 돌려 보라.

DeepSeek이 비공개 모델을 이기나

DeepSeek에 따르면 일부 에이전트 테스트에서는 앞서고 다른 곳(HLE, Terminal-Bench 3.0, 일부 시각 테스트)에서는 뒤처진다. 독립적인 테스트는 없다.

방법과 한계

Hugging Face 모델 카드(자동 요약을 거쳤으므로 수치는 교차 확인이 필요하다), arXiv 논문의 약 삼분의 이, DeepSeek의 변경 이력과 가격 페이지, 품질이 고르지 않은 2차 출처(Neomanex, HelloGitHub)를 읽었다. 모델을 시험하지 않았고, 논문에서 절제 실험이나 처리량 측정은 찾지 못했다. 이 글은 구매나 투자 조언이 아니다.

출처

• Hugging Face: DeepSeek-V4.1-Flash model card (확인일: 2026-11-02)
• arXiv 2609.19969: DeepSeek-V4.1-Flash, Pushing the Limits of KV Cache Compression (확인일: 2026-11-02)
• DeepSeek API: updates (changelog) (확인일: 2026-11-02)
• DeepSeek API: models and pricing (확인일: 2026-11-02)
• SiliconANGLE: DeepSeek releases updated V4.1-Flash model (확인일: 2026-11-02)
• Startup Fortune: DeepSeek ties its new V4.1-Flash-1017 model tighter to its own Harness (확인일: 2026-11-02)
• Neomanex: DeepSeek V4.1-Flash-1017, same Flash id, same price (확인일: 2026-11-02)
• HelloGitHub: deepseek-harness (확인일: 2026-11-02)

이 기사에서 오류를 발견하셨나요? 제보하기 · 정정 정책