본문 바로가기

인공지능

카카오 온디바이스 AI '카나나-2' 경량 모델 4종 오픈소스 공개, 한국어 특화 SLM의 경쟁력은?

728x90
반응형
728x170

카카오, 온디바이스 AI를 위한 '카나나-2' 경량 모델 공개

카카오가 자체 개발한 AI 언어모델 '카나나(Kanana)'의 경량 언어모델(SLM) 4종을 오픈소스로 공개했습니다. 이번 공개는 스마트폰과 개인 PC 등 온디바이스 환경에서도 AI를 직접 실행할 수 있도록 지원하는 것이 핵심입니다.

공개된 모델은 상업적 활용이 가능한 라이선스로 제공되며, 한국어 처리 성능을 강화하고 메모리 사용량까지 크게 줄여 실제 AI 서비스 개발에 활용할 수 있도록 설계됐습니다.

이번 글에서는 카카오가 공개한 카나나-2 모델의 특징과 성능, 온디바이스 AI 환경에서 갖는 의미를 살펴보겠습니다.

반응형

카나나-2 경량 모델 4종 공개

카카오는 허깅페이스를 통해 다음 4개의 경량 언어모델(SLM)을 오픈소스로 공개했습니다.

  • 카나나-2-1.3B-base
  • 카나나-2-1.3B-instruct
  • 카나나-2-3B-base
  • 카나나-2-3B-instruct

Base 모델은 다양한 AI 모델 개발과 추가 학습을 위한 기반 모델이며, Instruct 모델은 사용자의 지시를 이해하고 응답하도록 최적화된 모델입니다.


상업적 활용까지 가능한 오픈 라이선스

이번 모델은 '카나나 오픈 라이선스'로 제공됩니다.

이를 통해 개발자는 스마트폰이나 개인 PC와 같은 온디바이스 환경에서 별도의 제약 없이 모델을 직접 실행할 수 있으며, 상업적인 서비스에도 활용할 수 있습니다.

이는 연구 목적뿐 아니라 실제 서비스 개발과 제품 적용까지 고려한 공개라는 점에서 의미가 있습니다.


이미 다양한 카카오 서비스에서 활용 중

카카오의 경량 AI 모델은 이미 여러 서비스에서 활용되고 있습니다.

대표적인 적용 사례는 다음과 같습니다.

  • 카나나 인 카카오톡
  • 카카오톡 대화요약
  • 카카오톡 통화요약
  • AI 국민비서

이번에 공개된 모델은 실제 서비스 운영 경험을 기반으로 개발된 경량 모델이라는 점도 특징입니다.


경량 모델이지만 높은 성능 확보

모델 크기를 줄였음에도 성능은 경쟁력을 유지했습니다.

카카오에 따르면 한국어와 영어 모두에서 동일한 규모의 최신 오픈소스 모델(SOTA) 대비 우수한 성능을 기록했습니다.

또한 다음과 같은 실제 서비스 활용 능력에서도 글로벌 오픈소스 모델과 경쟁 가능한 수준을 보였습니다.

  • 대화 생성
  • 지식 이해
  • 코드 생성
  • 수학 문제 해결
  • 지시 이행
  • 툴 호출

특히 큐웬(Qwen), 젬마(Gemma) 등 글로벌 오픈소스 모델과 비교해도 경쟁력을 확보했다고 설명했습니다.


한국어 처리 성능을 높인 자체 토크나이저

카나나-2의 가장 큰 특징 가운데 하나는 한국어에 특화된 자체 토크나이저입니다.

이를 적용해 기존 대비 한국어 처리 효율을 30% 이상 개선했습니다.

한국어는 조사와 어미 변화가 많은 언어이기 때문에 토큰 처리 방식이 모델 성능에 큰 영향을 미칩니다.

이번 개선은 한국어 기반 AI 서비스의 응답 품질과 처리 효율 향상에 도움이 될 것으로 기대됩니다.


온디바이스 환경을 고려한 메모리 최적화

카카오는 '슬라이딩 윈도우 어텐션(Sliding Window Attention)' 구조를 적용했습니다.

이를 통해 최대 32K(32,000 토큰)의 긴 대화도 처리할 수 있으며, 메모리 사용량은 최대 72.7%까지 절감했다고 밝혔습니다.

이러한 구조는 상대적으로 하드웨어 자원이 제한된 스마트폰이나 개인 PC에서도 AI 모델을 보다 효율적으로 실행할 수 있도록 지원합니다.


간단한 활용 예시

공개된 카나나-2 모델은 온디바이스 환경에서 다양한 AI 기능 개발에 활용될 수 있습니다.

예를 들어,

  • 스마트폰에서 인터넷 연결 없이 대화 요약 기능 구현
  • 개인 PC 기반 문서 요약 서비스 개발
  • 한국어 챗봇 구축
  • 코드 생성 및 개발 보조 기능 구현

기사에서는 구체적인 사용 방법이나 실행 절차는 공개하지 않았지만, 오픈소스로 제공되는 만큼 개발자는 필요에 맞게 직접 활용할 수 있습니다.


국내 AI 생태계 확대 기대

카카오는 클라우드 기반 대규모 AI와 온디바이스 AI가 모두 중요한 시대가 되고 있다고 설명했습니다.

노병석 카카오 유니파이드 파운데이션 모델 성과리더는 에이전틱 AI 시대를 준비하기 위해 두 영역 모두 중요성이 커지고 있으며, 이번 오픈소스 공개가 새로운 AI 서비스 개발과 국내 AI 생태계 활성화로 이어지기를 기대한다고 밝혔습니다.


728x90

카카오가 공개한 카나나-2 경량 모델은 단순히 모델을 공개한 것에 그치지 않고, 상업적 활용이 가능한 오픈 라이선스와 온디바이스 실행 환경을 함께 지원한다는 점에서 의미가 있습니다.

특히 한국어 특화 토크나이저를 통해 한국어 처리 효율을 높이고, 슬라이딩 윈도우 어텐션 구조를 적용해 긴 문맥 처리와 메모리 효율까지 개선한 것이 주요 특징입니다.

또한 이미 카카오톡과 AI 국민비서 등 실제 서비스에서 활용된 경험을 기반으로 개발된 모델이라는 점도 주목할 만합니다.

향후 온디바이스 AI와 에이전틱 AI 시장이 확대되는 가운데, 이번 카나나-2 오픈소스 공개는 국내 AI 개발자와 기업들이 새로운 AI 서비스를 개발하는 데 활용할 수 있는 기반이 될 것으로 기대됩니다.

300x250

https://huggingface.co/collections/kakaocorp/kanana-2-slm?fbclid=IwY2xjawTVN4xleHRuA2FlbQIxMABicmlkETFmWlZ4SG55YzdjajNiY0kxc3J0YwZhcHBfaWQQMjIyMDM5MTc4ODIwMDg5MgABHs1ZzMNdFCGdmuhRT1MAfTVeW4B-LxWeA7xtvXtDUNWxgx5V2it3h-MhSEys_aem_zUByKds9u1_0iuQq7YMCJQ

 

Kanana-2-SLM - a kakaocorp Collection

Open Source Kanana-2-SLM

huggingface.co

728x90
반응형
그리드형