AI 경쟁의 기준이 달라지고 있습니다
최근 중국의 오픈 웨이트(Open-weight) AI 모델인 Kimi K3, Qwen3.8 Max 등이 빠르게 발전하면서 "중국 AI가 미국 AI를 따라잡고 있는가?"라는 질문이 업계의 주요 화두가 되고 있습니다.
하지만 단순히 모델 개발 비용이나 토큰 가격만으로 AI 경쟁력을 평가하기는 어렵습니다. 이제 AI 시장의 핵심 경쟁력은 얼마나 저렴하게 토큰을 생성하는가가 아니라 얼마나 적은 비용으로 원하는 수준의 지능을 제공하는가로 이동하고 있기 때문입니다.
이번 글에서는 AI 산업의 비용 구조가 기존 소프트웨어와 어떻게 다른지, 중국 오픈 웨이트 전략이 갖는 의미는 무엇인지, 그리고 앞으로 AI 시장의 경쟁이 어떤 방향으로 흘러갈지 살펴보겠습니다.
AI 산업은 왜 기존 소프트웨어와 비용 구조가 다른가
기존 소프트웨어 산업은 한 번 제품을 개발하면 추가 사용자가 늘어나더라도 서비스 제공 비용은 거의 증가하지 않았습니다. 즉, 연구개발 비용은 크지만 서비스를 제공하는 한계비용은 매우 낮았습니다.
반면 AI 서비스는 구조가 다릅니다.
AI에서는 모델을 학습시키는 비용뿐 아니라 서비스를 제공하는 추론(Inference) 비용이 지속적으로 발생합니다.
비용은 크게 두 가지로 나눌 수 있습니다.
- 고정비(Fixed Cost) : 모델 연구개발 및 학습 비용
- 매출원가(COGS) : 사용자가 AI를 사용할 때마다 발생하는 추론 비용
즉, 사용량이 늘어날수록 비용 역시 함께 증가하는 구조입니다.
예를 들어 토큰 생성 비용이 매출 1달러당 0.5달러라면,
- 매출 1억 달러 → 매출원가 5,000만 달러
- 매출 10만 달러 → 매출원가 5만 달러
처럼 서비스 규모에 따라 운영 비용도 함께 커집니다.
오픈 웨이트 모델이 비용을 모두 해결해 주는 것은 아니다
최근 중국 AI 기업들은 오픈 웨이트 전략을 적극적으로 선택하고 있습니다.
오픈 웨이트 모델은 이미 학습된 모델의 가중치(Weights)를 공개하기 때문에 기업들은 처음부터 거대한 모델을 학습시킬 필요가 없습니다.
이는 연구개발 비용을 크게 줄여주는 장점이 있습니다.
하지만 이것이 AI 서비스 운영 비용까지 무료로 만들어 주는 것은 아닙니다.
실제로 서비스를 운영하려면 여전히 다음과 같은 비용이 발생합니다.
- GPU 운영 비용
- 추론 비용
- 메모리 사용 비용
- 모델 서빙 비용
즉, 오픈 웨이트는 개발 비용을 줄여주지만 서비스 비용까지 없애지는 못합니다.
AI 시장에서는 토큰보다 '지능'이 상품이다
과거에는 AI 모델을 평가할 때 토큰 생성 속도나 토큰 가격이 중요한 기준이었습니다.
하지만 추론 중심 AI 시대에서는 상황이 달라졌습니다.
같은 질문이라도 모델마다 정답을 찾기 위해 사용하는 토큰 수가 크게 다르기 때문입니다.
예를 들어
- 어떤 모델은 1,000개의 토큰으로 답을 만들고,
- 다른 모델은 5,000개의 토큰을 사용해야 같은 수준의 답을 만들 수 있습니다.
겉으로 보이는 토큰 가격은 저렴할 수 있지만, 실제로는 훨씬 많은 토큰을 사용하기 때문에 전체 비용은 더 높아질 수 있습니다.
즉,
AI 서비스에서 실제 상품은 토큰이 아니라 정답 수준의 지능(Intelligence) 입니다.
사용자는 토큰을 구매하는 것이 아니라 원하는 결과를 얻기 위해 AI를 사용하기 때문입니다.
AI의 실제 비용을 결정하는 5가지 요소
AI 서비스의 매출원가는 단순한 토큰 가격보다 다양한 요소의 영향을 받습니다.
1. 모델 크기
모델이 커질수록 더 많은 GPU 메모리와 연산 자원이 필요합니다.
2. 추론 효율
Mixture-of-Experts(MoE)와 같은 구조는 필요한 계산량을 줄여 비용을 절감합니다.
3. 메모리 효율
KV Cache 사용량이 적을수록 GPU 활용률이 높아지고 더 많은 요청을 동시에 처리할 수 있습니다.
4. 서빙 효율
배치 처리, 스케줄링, Prefix Cache 등의 기술은 여러 요청을 효율적으로 처리하여 운영 비용을 줄입니다.
5. 토큰 효율
같은 답을 더 적은 토큰으로 생성할수록 추론 비용이 낮아집니다.
결국 AI 기업의 경쟁력은 얼마나 적은 비용으로 동일한 수준의 지능을 제공하는가에 달려 있습니다.
중국 AI 모델이 저렴해 보이는 이유
기사에서는 중국 모델의 낮은 가격을 그대로 경쟁력으로 보기 어렵다고 설명합니다.
예를 들어
- Kimi K3
- 입력 100만 토큰당 3달러
- 출력 100만 토큰당 15달러
- Sol
- 입력 100만 토큰당 5달러
- 출력 100만 토큰당 30달러
표면적으로는 Kimi가 훨씬 저렴합니다.
하지만 Kimi가 동일한 작업을 수행하기 위해 훨씬 많은 추론 토큰을 사용한다면 실제 비용 차이는 예상보다 작아질 수 있습니다.
즉,
토큰 가격만으로 AI 경제성을 판단해서는 안 됩니다.
현재 AI 시장은 아직 완전한 상품 시장이 아니다
일반적인 상품 시장에서는 동일한 제품을 여러 공급자가 판매하며 가격 경쟁이 발생합니다.
하지만 현재 AI 시장은 그렇지 않습니다.
그 이유는 여전히 컴퓨팅 자원(GPU)이 부족하기 때문입니다.
이로 인해
- OpenAI
- Anthropic
등의 최첨단 모델 기업은 공급 부족 상황에서 높은 가격을 유지할 수 있습니다.
또한 이들 기업은
- 높은 모델 성능
- 뛰어난 서빙 기술
- 높은 토큰 효율
등을 바탕으로 실제 지능을 가장 낮은 비용으로 제공할 가능성이 높다고 분석합니다.
중국의 전략은 AI 자체보다 산업 경쟁력 강화에 있다
중국은 오픈 웨이트 전략을 단순히 AI 시장 점유율 확보를 위한 수단으로만 사용하지 않습니다.
핵심 목표는 AI를 자국 산업 전반에 확산시키는 것입니다.
특히 다음 분야와의 결합이 강조됩니다.
- 제조업
- 로보틱스
- 물리 기반 산업
- 미래 산업
AI 모델을 개방하면 더 많은 기업이 이를 활용할 수 있고, 산업 전체의 생산성과 경쟁력을 높일 수 있다는 전략입니다.
또한 개방형 생태계를 통해 다양한 혁신을 빠르게 흡수하려는 의도도 포함되어 있습니다.
증류(Distillation)가 중국 AI 발전의 중요한 변수
중국 AI 발전에서 자주 언급되는 기술이 증류(Distillation) 입니다.
증류는 성능이 뛰어난 모델을 '교사 모델'로 활용해 새로운 모델을 효율적으로 학습시키는 방법입니다.
이를 통해
- 개발 비용 절감
- 학습 시간 단축
- 성능 향상
등의 효과를 기대할 수 있습니다.
최근에는 사후 학습(Reinforcement Learning) 비중이 커지면서 증류의 가치도 함께 높아지고 있습니다.
기사에서는 증류가 중국 AI 발전의 유일한 이유는 아니지만 매우 중요한 경쟁력 중 하나라고 평가합니다.
오픈 웨이트 전략이 미국 AI 기업에 주는 과제
기사는 미국이 지나치게 폐쇄적인 정책을 유지할 경우 예상치 못한 결과가 나타날 수 있다고 지적합니다.
예를 들어
- 미국 기업이 보안 업무에서 중국 오픈 웨이트 모델을 사용할 가능성
- 미국 오픈 웨이트 개발사의 경쟁력 약화
- 개방형 생태계에서 중국 중심의 혁신 확산
등이 우려됩니다.
특히 사이버 보안 분야에서는 자체 인프라에서 실행 가능한 고성능 오픈 웨이트 모델의 중요성이 더욱 커지고 있다고 설명합니다.
중국 AI 모델의 등장은 단순히 "더 저렴한 AI가 등장했다"는 의미를 넘어 AI 산업의 경쟁 기준 자체가 바뀌고 있음을 보여줍니다.
이제 AI 시장에서는 토큰 가격보다 지능을 제공하는 총비용, 즉 매출원가(COGS) 가 핵심 경쟁력이 되고 있습니다.
또한 오픈 웨이트 전략, 증류 기술, 추론 효율, 서빙 기술 등은 앞으로 AI 기업의 수익성과 시장 경쟁력을 좌우하는 중요한 요소가 될 가능성이 큽니다.
결국 향후 AI 경쟁은 누가 더 큰 모델을 만드는가보다 누가 더 적은 비용으로 더 높은 수준의 지능을 안정적으로 제공하는가에 초점이 맞춰질 것으로 보입니다.
https://stratechery.com/2026/whos-afraid-of-chinese-models/
Who’s Afraid of Chinese Models?
Everyone is worried about Chinese models, but the frontier labs will be fine; we need to enable open U.S. alternatives.
stratechery.com
