DSpark: DeepSeek-V4 추론 속도를 최대 85%까지 끌어올린 추측 디코딩 프레임워크

이 글에서는 **DeepSeek**가 공개한 DSpark라는 추론 최적화 프레임워크를 중심으로, 대규모 언어 모델(LLM) 서비스 환경에서 왜 추론 속도가 중요한지, DSpark가 어떤 방식으로 기존 한계를 해결했는지, 그리고 실제 프로덕션 환경에서 어떤 성능 향상을 만들어냈는지를 정리합니다. 새로운 모델이 아닌 서빙 최적화 기술이라는 점에서, 현재 운영 중인 LLM 서비스를 어떻게 더 빠르고 효율적으로 만들 수 있는지에 초점을 맞춥니다.

반응형

---

대규모 모델 서빙에서의 핵심 과제

대형 언어 모델은 정확도와 표현력은 뛰어나지만, 실제 서비스 환경에서는 추론 지연(latency) 과 GPU 자원 효율이 가장 큰 부담이 됩니다.
특히 동시 요청이 많은 상황에서는 토큰 하나하나를 순차적으로 생성하는 방식이 병목이 되며, 사용자 체감 속도는 급격히 떨어집니다.
이 문제를 해결하기 위해 등장한 접근법이 Speculative Decoding(추측 디코딩) 입니다.

---

Speculative Decoding이란 무엇인가

추측 디코딩은 생성 과정을 두 역할로 나눕니다.

• Draft 모델: 빠른 소형 모델이 여러 개의 토큰 블록을 미리 제안
• Target 모델: 실제 대형 모델이 이 토큰 블록을 한 번에 검증

검증 과정에서 가장 긴 유효 prefix를 채택하고, 분포를 정확히 보존하기 때문에 출력 품질 손실은 없습니다.
DSpark 역시 이 원칙을 그대로 유지합니다.

---

DSpark의 핵심 아이디어

DSpark는 기존 방식이 가진 세 가지 한계를 동시에 개선합니다.

1. 더 빠른 드래프트 생성
2. 더 높은 토큰 수용률(accepted length)
3. 불필요한 검증 비용 감소

이를 위해 두 가지 핵심 구조를 도입했습니다.

---

반자동회귀(Semi-Autoregressive) 드래프팅 구조

기존 접근의 한계

• 자동회귀 드래프터: 정확도는 높지만 블록이 길어질수록 비용 증가
• 병렬 드래프터: 비용은 낮지만 뒤쪽 토큰으로 갈수록 수용률 급감

DSpark의 해결 방식

DSpark는 드래프팅을 두 단계로 나눕니다.

• 병렬 백본: 모든 위치의 기본 로짓을 한 번에 생성
• 경량 순차 헤드: 이전 토큰을 참고해 각 위치에 보정 편향 추가

기본 설정은 Markov Head로, 바로 이전 토큰만 참고합니다.
저랭크 분해(rank 256)를 사용해 어휘 수가 커도 비용은 거의 늘지 않습니다.
이 구조 덕분에:

• 첫 토큰 정확도는 병렬 방식 수준 유지
• 블록 깊은 위치에서도 수용률이 안정적으로 유지

---

학습 전략과 수용률 극대화

DSpark 학습 과정에서는 타깃 모델을 고정하고, 임베딩과 출력 헤드를 그대로 재사용합니다.
핵심 손실 함수는 Total Variation Loss로, 이는 드래프트와 타깃 분포 간 거리를 직접 최소화해 토큰 수용률을 최대화합니다.

---

신뢰도 기반 검증 스케줄링

왜 검증 길이 조절이 필요한가

드래프트 토큰을 많이 만든다고 항상 빠른 것은 아닙니다.
부하가 높은 상황에서 거절될 토큰까지 검증하면 GPU 자원을 낭비하게 됩니다.

DSpark의 접근

• Confidence Head: 각 토큰이 검증을 통과할 확률 예측
• Sequential Temperature Scaling: 과신(overconfidence) 문제를 줄여 예측 정확도 개선
• 하드웨어 인지 스케줄러: GPU 부하에 따라 검증 토큰 수를 동적으로 조절

GPU가 여유로우면 더 많이 검증하고, 바쁘면 검증 길이를 줄이되 품질 손실은 발생하지 않도록 설계되었습니다.

---

성능 지표와 실제 효과

오프라인 평가

• 기존 Eagle3 대비 26~31% 수용 길이 증가
• DFlash 대비 16~18% 증가
• 2-layer DSpark가 5-layer DFlash보다 높은 성능 기록

프로덕션 환경

• 기존 MTP-1 대비 사용자 체감 속도 60~85% 향상
• Flash 및 Pro 환경 모두에서 안정적인 개선 확인

중요한 점은, 모델 재학습 없이 기존 가중치에 드래프트 모듈만 붙여 적용했다는 점입니다.

---

활용 시나리오별 효과

• 코드 생성: 수용률이 높아 긴 검증이 가능, 출력 스트리밍 속도 개선
• 오픈 도메인 챗: 신뢰도 기반 가지치기로 불확실한 접미사 제거
• 수학 추론: 긴 단계별 추론에서도 안정적인 수용률 유지
• 고동시성 서비스: 요청 수 증가 시 자동으로 검증 예산 축소

---

사용 방법 개요

DeepSeek는 DeepSpec이라는 MIT 라이선스 코드베이스도 함께 공개했습니다.
구성 파일에서 타깃 모델과 알고리즘을 선택해 학습 → 평가 흐름으로 진행하며, 기본 설정은 8 GPU 노드를 가정합니다.
프로덕션용 체크포인트는 기존 V4 가중치에 드래프트 모듈을 연결하는 방식으로 바로 사용 가능합니다.

---

728x90

DSpark는 새로운 모델을 만들지 않고도 대규모 언어 모델 서비스의 병목을 실질적으로 해결한 사례입니다.
병렬성과 순차 정보를 균형 있게 결합하고, 하드웨어 부하까지 고려한 검증 전략을 적용함으로써 속도, 품질, 자원 효율을 동시에 잡았습니다.
앞으로 LLM 경쟁의 핵심은 단순한 모델 크기가 아니라, 어떻게 빠르고 안정적으로 서비스하느냐에 있을 가능성이 큽니다.
DSpark는 그 방향성을 분명히 보여주는 기술적 이정표라고 볼 수 있습니다.

300x250

https://github.com/deepseek-ai/DeepSpec/blob/main/DSpark_paper.pdf

DeepSpec/DSpark_paper.pdf at main · deepseek-ai/DeepSpec