본문 바로가기

인공지능

DeepSeek-V4-Flash-0731, 에이전트와 코딩 성능을 크게 높인 공식 업데이트

728x90
반응형
728x170

DeepSeek이 2026년 7월 31일 DeepSeek-V4-Flash-0731을 공개했습니다. 이번 버전은 기존 Preview를 대체하는 공식 릴리스로, 새로운 아키텍처나 모델 규모를 적용한 것이 아니라 재학습(Post-Training)을 통해 에이전트와 코딩 관련 성능을 크게 개선한 것이 핵심입니다.

특히 DeepSeek-V4-Flash-0731은 284B 파라미터 기반의 MoE 모델과 1M 토큰 컨텍스트를 유지하면서 다양한 코드 에이전트 및 도구 활용 벤치마크에서 Preview 버전보다 높은 결과를 보여줬습니다. 여기에 DSpark speculative decoding 모듈을 적용해 추론 속도 개선도 노렸습니다.

API 측면에서는 deepseek-v4-flash가 Responses API 형식을 기본 지원하고 Codex에 맞게 조정됐으며, 비교적 낮은 API 비용으로 에이전트 기반 서비스를 구축할 수 있다는 점도 주목할 부분입니다.

이번 글에서는 DeepSeek-V4-Flash-0731에서 무엇이 달라졌는지부터 모델 구조, 코딩 및 에이전트 성능, API 가격, 셀프 호스팅 조건, DSpark를 이용한 서빙 방법까지 차례로 살펴보겠습니다.

반응형

DeepSeek-V4-Flash-0731은 무엇이 달라졌나

DeepSeek-V4-Flash-0731은 2026년 7월 31일 Hugging Face에 공개된 공식 버전입니다. 기존 Preview를 대체하는 릴리스이며, 모델 카드에서는 아키텍처와 모델 규모는 변경되지 않았다고 명시하고 있습니다.

즉, 이번 업데이트를 완전히 새로운 모델 구조의 등장으로 볼 필요는 없습니다.

핵심은 기존 V4-Flash를 기반으로 한 재학습을 통해 실제 작업 성능을 높였다는 것입니다.

특히 개선의 중심에는 코딩과 에이전트 작업이 있습니다. 단순한 질의응답뿐 아니라 터미널을 사용하거나 코드를 생성하고, 외부 도구와 상호작용하는 작업에서 성능을 높이는 방향으로 업데이트됐습니다.

또 하나의 특징은 DSpark speculative decoding 모듈입니다.

Hugging Face에 공개된 체크포인트에는 DSpark가 포함되어 있으며, 이 구조 때문에 저장소 기준 파라미터 수는 304B로 표시됩니다. 여기에는 284B 규모의 기본 모델과 추가된 draft module이 포함됩니다.

284B 파라미터 MoE 구조와 1M 토큰 컨텍스트

DeepSeek-V4-Flash는 284B 파라미터 규모의 MoE(Mixture of Experts) 모델입니다.

여기서 중요한 부분은 전체 파라미터가 매번 모두 활성화되는 것은 아니라는 점입니다.

토큰 하나를 처리할 때 활성화되는 파라미터는 13B입니다. 즉, 모델 전체는 매우 크지만 각 토큰 처리에서는 일부 전문가만 선택해 사용하는 방식입니다.

구조를 정리하면 다음과 같습니다.

  • 전체 모델 규모: 284B 파라미터
  • 토큰당 활성 파라미터: 13B
  • 컨텍스트 윈도우: 1M 토큰
  • 각 MoE 레이어: 공유 전문가 1개 + 라우팅 전문가 256개
  • 토큰당 활성화되는 라우팅 전문가: 6개
  • 처음 3개의 MoE 레이어: Hash Routing 사용
  • Multi-Token Prediction depth: 1

이러한 구조는 대규모 모델의 표현력을 유지하면서 실제 토큰 처리 과정에서는 일부 전문가를 선택해 사용하는 형태입니다.

또한 최대 1M 토큰의 컨텍스트를 지원하기 때문에 긴 코드나 대규모 작업 맥락을 한 번에 처리해야 하는 에이전트 환경에서도 활용할 수 있는 구조를 갖추고 있습니다.

Attention과 연결 구조에도 특징이 있다

DeepSeek-V4-Flash의 Attention 구조는 하나의 방식만 사용하는 형태가 아니라 Compressed Sparse Attention(CSA)Heavily Compressed Attention(HCA)을 결합한 하이브리드 Attention 구조입니다.

또한 일반적인 residual connection 대신 Manifold-Constrained Hyper-Connections(mHC)를 사용합니다.

mHC의 expansion factor는 4이며 Sinkhorn-Knopp iteration은 20회입니다.

사전 학습에는 32T 이상의 토큰과 Muon 옵티마이저가 사용됐습니다.

다만 여기서 한 가지 구분해야 할 부분이 있습니다.

DeepSeek 기술 보고서에서 언급된 V4-Pro의 1M 컨텍스트 기준 효율성 수치와 V4-Flash의 성능을 동일하게 해석해서는 안 됩니다.

보고서에서 DeepSeek-V3.2 대비 단일 토큰 추론 FLOPs가 27%, KV Cache가 10% 수준이라는 효율성 수치는 V4-Pro에 대해 제시된 내용입니다. 따라서 이를 V4-Flash의 직접적인 성능 수치로 받아들이면 안 됩니다.

코딩과 에이전트 성능은 얼마나 향상됐나

DeepSeek-V4-Flash-0731에서 가장 눈에 띄는 부분은 벤치마크 결과입니다.

아래 수치는 제공된 자료에 포함된 DeepSeek 자체 보고 결과입니다.

벤치마크 V4-Flash-0731 V4-Flash Preview V4-Pro Preview GLM-5.2 Opus-4.8
Terminal Bench 2.1 82.7 61.8 72.1 81.0 85.0
NL2Repo 54.2 39.4 38.5 48.9 69.7
Cybergym 76.7 38.7 52.7 83.1
DeepSWE 54.4 7.3 12.8 46.2 58.0
Toolathlon-Verified 70.3 49.7 55.9 59.9 76.2
Agents’ Last Exam 25.2 15.8 16.5 23.8 25.7
AutomationBench Public 25.1 10.8 12.8 12.9 27.2

가장 주목할 부분은 Preview 버전과의 차이입니다.

예를 들어 Terminal Bench 2.1은 61.8에서 82.7로 상승했고, NL2Repo는 39.4에서 54.2로 높아졌습니다.

Cybergym 역시 38.7에서 76.7로, DeepSWE는 7.3에서 54.4로 크게 상승했습니다.

Toolathlon-Verified도 49.7에서 70.3으로 높아졌습니다.

이를 보면 이번 업데이트가 단순히 일반적인 언어 이해 능력보다 코드 작성, 개발 환경에서의 작업 수행, 도구 활용, 에이전트 작업 수행 능력을 강화하는 방향으로 진행됐다는 점을 확인할 수 있습니다.

다만 벤치마크 수치는 해석에 주의할 필요가 있습니다.

Code Agent 작업은 공개되지 않은 DeepSeek Harness의 minimal mode를 사용했습니다. 또한 DSBench-FullStack과 DSBench-Hard는 내부 테스트 세트입니다.

에이전트 벤치마크는 어떤 Harness를 사용하는지에 따라서 결과가 달라질 수 있습니다. 따라서 위 수치를 실제 서비스 환경에서 그대로 재현할 수 있다고 단정하기보다는 DeepSeek이 공개한 조건에서 확인된 성능 지표로 보는 것이 적절합니다.

API 가격이 낮아 에이전트 서비스에 활용하기 좋다

DeepSeek-V4-Flash-0731의 또 다른 특징은 API 가격입니다.

제공된 DeepSeek 가격 정보 기준으로 deepseek-v4-flash는 다음과 같은 가격 구조를 가지고 있습니다.

  • Input Token, Cache Miss: 1M 토큰당 $0.14
  • Input Token, Cache Hit: 1M 토큰당 $0.0028
  • Output Token: 1M 토큰당 $0.28
  • 동시성 제한: 2,500

특히 Cache Hit 가격이 매우 낮게 설정되어 있다는 점이 특징입니다.

에이전트 시스템에서는 동일하거나 유사한 컨텍스트가 반복적으로 사용될 수 있기 때문에 캐시가 실제 비용에 영향을 줄 수 있습니다.

또한 Output Token 기준 가격은 deepseek-v4-pro의 $0.87보다 낮은 $0.28 수준입니다.

따라서 많은 양의 추론이나 반복적인 에이전트 작업을 처리해야 하는 환경에서는 API 비용 측면에서 고려할 만한 선택지가 될 수 있습니다.

특히 GPU 서버를 직접 확보하기 어려운 초기 단계의 스타트업이나 개인 개발자, 내부 플랫폼 팀이라면 API를 이용해 에이전트 루프를 구축하는 방식이 상대적으로 접근하기 쉽습니다.

API와 셀프 호스팅 중 어떤 방식으로 사용할 수 있을까

DeepSeek-V4-Flash-0731은 크게 두 가지 방법으로 활용할 수 있습니다.

첫 번째는 API입니다.

API 방식은 GPU 인프라를 직접 구축하지 않고 모델을 호출하는 방식입니다. 따라서 모델 자체를 운영하기 위한 하드웨어와 서빙 환경을 별도로 준비할 필요가 없습니다.

특히 이번 버전에서는 deepseek-v4-flash가 Responses API 형식을 기본 지원하며 Codex에 맞게 조정됐습니다.

따라서 코딩 에이전트나 도구를 사용하는 AI 애플리케이션을 구축하려는 개발자라면 API를 통해 모델을 연결하는 방식을 고려할 수 있습니다.

두 번째는 셀프 호스팅입니다.

DeepSeek-V4-Flash의 가중치는 MIT 라이선스를 사용하며 ungated 형태로 제공됩니다.

하지만 라이선스가 개방되어 있다고 해서 셀프 호스팅이 가볍다는 의미는 아닙니다.

MoE 모델은 토큰마다 일부 전문가만 활성화하지만, 전문가 전체가 메모리에 상주해야 한다는 점을 고려해야 합니다.

즉, 토큰당 13B 파라미터만 활성화된다고 해서 284B 모델을 13B 모델과 같은 하드웨어로 실행할 수 있는 것은 아닙니다.

제공된 자료에 따르면 DeepSeek의 vLLM 예제에서는 단일 4×GB300 노드에서 모델을 서빙합니다.

또한 Unsloth의 Dynamic GGUF 기준으로는 다음과 같은 빌드가 소개되어 있습니다.

  • Lossless 8-bit: 162GB
  • 3-bit: 103GB
  • 필요한 RAM + VRAM: 약 110GB 수준

따라서 셀프 호스팅은 일반적인 개인 개발 환경보다는 서빙 클러스터를 갖춘 중견·대기업이나 충분한 사양의 워크스테이션을 운영하는 환경에 더 적합합니다.

결국 선택 기준은 비교적 명확합니다.

API는 빠르게 서비스를 구축하고 운영 부담을 줄이고 싶은 경우 적합하고, 셀프 호스팅은 자체 인프라를 갖추고 모델 운영을 직접 제어해야 하는 환경에서 고려할 수 있습니다.

DSpark로 추론 속도를 높일 수 있다

DeepSeek-V4-Flash-0731에는 DSpark speculative decoding 모듈이 연결되어 있습니다.

Speculative Decoding은 모델의 생성 과정에서 별도의 draft 과정을 활용해 최종 생성 속도를 높이는 방식입니다.

DeepSeek의 DSpark 논문에서는 동일한 aggregate throughput 조건에서 V4-Flash가 MTP-1 기반보다 사용자별 생성 속도 기준 60~85% 빠른 결과를 보였다고 보고합니다.

vLLM에서는 다음과 같은 설정을 통해 DSpark를 활성화할 수 있습니다.

--speculative-config '{"method":"dspark","num_speculative_tokens":7,"draft_sample_method":"greedy"}'

여기에서 method를 dspark로 설정하고 speculative token 수를 7로 지정합니다.

즉, 모델 자체의 성능뿐 아니라 실제 서비스를 운영할 때 발생하는 생성 속도 문제까지 개선하기 위한 구성이 함께 제공되는 셈입니다.

다만 이 수치 역시 제공된 자료에 기반한 DeepSeek 측 보고 결과이므로 실제 하드웨어와 트래픽 환경에서는 결과가 달라질 수 있습니다.

실제 서빙 환경에서 알아둘 점

DeepSeek-V4-Flash-0731을 직접 서빙할 때는 몇 가지 추가적인 특징도 확인해야 합니다.

먼저 일반적인 Jinja Chat Template이 제공되지 않습니다.

대신 DeepSeek은 encoding/ 폴더에 다음과 같은 기능을 제공합니다.

  • encode_messages
  • parse_message_from_completion_text

따라서 기존 모델에서 사용하는 일반적인 Chat Template 방식과는 다른 형태로 메시지를 인코딩하고 결과를 처리해야 합니다.

또한 reasoning_effort는 다음 세 가지 값을 지원합니다.

  • low
  • high
  • max

DeepSeek은 에이전트 사용 시 temperature = 1.0, top_p = 0.95를 권장하며, 그 외 사용에서는 temperature = 1.0을 권장합니다.

출력 토큰은 high와 max에서 최대 384K까지 사용할 수 있습니다.

이러한 구성은 단순한 챗봇보다는 장시간 작업을 수행하는 코딩 에이전트나 도구 기반 AI 시스템을 고려한 설정이라고 볼 수 있습니다.

DeepSeek-V4-Flash-0731의 핵심 특징 정리

이번 업데이트의 핵심을 정리하면 다음과 같습니다.

1. 새로운 아키텍처가 아닌 성능 개선에 집중

V4-Flash-0731은 Preview 버전과 동일한 아키텍처 및 모델 규모를 유지하면서 재학습을 통해 성능을 높였습니다.

2. 코딩과 에이전트 성능이 크게 향상

Terminal Bench 2.1, NL2Repo, Cybergym, DeepSWE, Toolathlon-Verified 등의 결과에서 Preview 대비 큰 폭의 개선이 확인됐습니다.

3. 대규모 MoE 구조

284B 파라미터 모델이지만 토큰당 활성화되는 파라미터는 13B입니다.

4. 1M 토큰 컨텍스트

긴 코드나 복잡한 작업 맥락을 처리해야 하는 환경을 고려할 수 있는 1M 토큰 컨텍스트를 제공합니다.

5. 낮은 API 비용

Input과 Output 모두 비교적 낮은 가격으로 제공되며, 특히 Cache Hit 가격이 매우 낮습니다.

6. API와 셀프 호스팅 모두 가능

API를 통한 접근뿐 아니라 MIT 라이선스의 가중치를 이용한 자체 구축도 가능합니다.

다만 셀프 호스팅에는 대규모 메모리와 GPU 자원이 필요합니다.

7. DSpark를 통한 추론 속도 개선

vLLM에서 DSpark speculative decoding을 활성화할 수 있으며, DeepSeek이 보고한 조건에서는 사용자별 생성 속도 개선 효과가 확인됐습니다.

DeepSeek-V4-Flash-0731이 보여주는 의미

DeepSeek-V4-Flash-0731에서 주목할 점은 단순히 모델의 파라미터 수가 아닙니다.

이번 업데이트는 이미 구축된 대규모 모델 구조를 유지하면서 후속 학습을 통해 실제 에이전트와 코딩 작업에서의 성능을 끌어올리는 방향을 보여줍니다.

특히 Preview 대비 여러 코딩 및 에이전트 벤치마크에서 성능이 크게 높아졌다는 점은 의미가 있습니다.

AI 모델이 단순히 질문에 답하는 것을 넘어 코드를 작성하고, 도구를 호출하고, 작업을 수행하는 형태로 발전하면서 모델을 평가하는 기준도 달라지고 있기 때문입니다.

이런 관점에서 보면 Terminal Bench, DeepSWE, Toolathlon-Verified 같은 지표의 개선은 단순한 숫자 이상의 의미를 가집니다.

또한 API 가격도 중요한 요소입니다.

에이전트는 한 번의 질문으로 답변을 끝내는 것이 아니라 여러 차례 모델을 호출하면서 작업을 수행할 수 있습니다. 따라서 모델의 성능뿐 아니라 토큰 비용과 추론 속도 역시 실제 서비스 운영 비용에 직접적인 영향을 줍니다.

DeepSeek-V4-Flash-0731은 이 부분에서 낮은 API 가격과 DSpark 기반 추론 속도 개선을 함께 제시하고 있습니다.

반면 셀프 호스팅은 여전히 높은 진입장벽을 가지고 있습니다. 284B 규모의 모델을 운영하기 위해 상당한 메모리와 GPU 자원이 필요하기 때문입니다.

따라서 현재 제공된 정보만 놓고 보면 API를 활용한 에이전트 및 코딩 서비스 개발은 비교적 접근하기 쉽지만, 자체 인프라에서 모델을 운영하는 것은 충분한 하드웨어를 보유한 조직에 더 적합한 모델이라고 정리할 수 있습니다.

728x90

DeepSeek-V4-Flash-0731은 새로운 모델 구조를 선보인 업데이트라기보다 기존 V4-Flash를 기반으로 코딩과 에이전트 작업에 대한 성능을 크게 강화한 공식 릴리스라는 점에서 의미가 있습니다.

284B 파라미터의 MoE 구조와 13B 토큰당 활성 파라미터, 1M 토큰 컨텍스트를 유지하면서 Preview 버전 대비 여러 에이전트 및 코딩 벤치마크에서 높은 성능을 기록했습니다.

여기에 Responses API 지원, Codex 대응, 낮은 API 비용, DSpark speculative decoding 지원까지 더해지면서 실제 AI 에이전트 서비스를 구축하려는 개발자에게 활용할 수 있는 선택지가 될 수 있습니다.

다만 벤치마크 결과의 상당 부분이 DeepSeek이 보고한 결과이며, 일부 테스트는 공개되지 않은 Harness나 내부 테스트 세트를 사용했다는 점은 함께 고려해야 합니다. 또한 셀프 호스팅의 경우 모델의 전체 파라미터 규모 때문에 상당한 하드웨어 자원이 필요합니다.

결국 DeepSeek-V4-Flash-0731의 핵심은 단순히 “더 큰 모델”이 아니라 “실제 작업을 수행하는 AI 에이전트에 얼마나 적합한가”에 있습니다.

API를 활용하면 비교적 낮은 비용으로 에이전트 서비스를 구성할 수 있고, 충분한 인프라를 갖춘 조직이라면 자체 서빙도 고려할 수 있습니다. 앞으로 AI 활용이 단순한 대화형 서비스에서 코드 작성, 도구 호출, 자동화된 업무 수행으로 확장될수록 이러한 에이전트 중심 모델의 성능과 비용 효율성은 더욱 중요한 평가 기준이 될 것으로 보입니다.

300x250

https://www.marktechpost.com/2026/07/31/deepseek-upgrades-deepseek-v4-flash-0731-with-major-agentic-and-coding-gains/?fbclid=IwY2xjawTcRN5leHRuA2FlbQIxMQBzcnRjBmFwcF9pZBAyMjIwMzkxNzg4MjAwODkyAAEeXNZ5FYobu61uj6n4SeJ0e1hcVE_6nP3Uug2tnN77G0eWihyiUuROaCQIU_8_aem_3dBIolz9-wYDFhTbHTtPxQ

 

DeepSeek Upgrades DeepSeek-V4-Flash-0731 with Major Agentic and Coding Gains

DeepSeek-V4-Flash-0731, an MIT-licensed 284B MoE activating 13B parameters, outperforming V4-Pro (Preview) across agentic benchmarks

www.marktechpost.com

728x90
반응형
그리드형