카카오가 자체 개발한 경량 언어모델(SLM) 4종을 오픈소스로 공개하고 온디바이스 AI 기술 경쟁력 강화와 국내 AI 생태계 확대에 나섰다.

카카오(대표이사 정신아)는 28일 허깅페이스 (Hugging Face)에 스마트폰 등과 같은 디바이스에서 구동할 수 있는 경량 언어모델(SLM) 4종을 오픈소스로 공개했다고 밝혔다.

카카오는 28일 허깅페이스(Hugging Face)를 통해 스마트폰 등 디바이스에서 구동할 수 있는 경량 언어모델(SLM) \'Kanana-2\' 시리즈 4종을 오픈소스로 공개했다고 밝혔다.

이번에 공개한 모델은 ▲Kanana-2-1.3B-base ▲Kanana-2-1.3B-instruct ▲Kanana-2-3B-base ▲Kanana-2-3B-instruct 등이다.

최근 AI 시장에서는 대형 언어모델(LLM) 경쟁과 함께 스마트폰과 개인 PC에서 직접 실행되는 온디바이스 AI의 중요성이 커지고 있다. 글로벌 AI 기업들도 경량 오픈소스 모델을 잇달아 공개하며 관련 시장 선점 경쟁을 벌이고 있다.

카카오는 이 같은 흐름에 맞춰 실제 서비스에 적용 가능한 수준의 성능을 갖춘 경량 AI 모델 개발을 지속해 왔다고 설명했다.

현재 카카오의 경량 AI 모델은 \'카나나 인 카카오톡\', \'카카오톡 대화요약 및 통화요약\', \'AI 국민비서\' 등 다양한 서비스에 적용되고 있다.

이번 모델은 작은 규모에도 한국어와 영어 모두에서 글로벌 수준의 성능을 구현한 것이 특징이다.

카카오에 따르면 유사한 크기의 최신 오픈소스 모델과 비교해 한국어와 영어는 물론 지식, 수학, 코드 등 주요 벤치마크에서 우수한 성능을 기록했다.

특히 공개 모델인 \'Kanana-2-1.3B-instruct\'와 함께 개발한 \'Kanana-2-0.9B-instruct\'는 대화, 지식, 코드, 수학, 지시이행, 툴 호출 등 실제 서비스 활용 능력에서도 Qwen, Gemma 등 글로벌 동급 모델과 경쟁력 있는 성능을 보였다고 회사는 밝혔다.

카카오는 자체 개발한 한국어 특화 토크나이저도 전 모델에 적용했다.

토크나이저는 AI가 문장을 처리하기 위해 텍스트를 분할하는 핵심 기술이다. 한국어에 최적화된 토크나이저를 사용할 경우 동일한 문장을 더 적은 단위로 처리할 수 있어 연산 속도 향상과 비용 절감 효과를 기대할 수 있다.

카카오는 이를 통해 기존 대비 한국어 처리 효율을 30% 이상 개선해 성능과 비용 경쟁력을 동시에 확보했다고 설명했다.

온디바이스 환경에 맞춘 최적화 기술도 적용했다.

긴 대화 처리 과정에서 메모리 사용량이 급증하는 문제를 해결하기 위해 \'슬라이딩 윈도우 어텐션(Sliding Window Attention)\' 구조를 도입했으며, 최대 32K(3만2천 토큰) 길이의 대화에서도 메모리 사용량을 최대 72.7%까지 줄이면서 안정적인 성능을 유지할 수 있도록 설계했다.

카카오는 이번 모델을 상업적 활용까지 허용하는 \'카나나 오픈 라이선스(Kanana Open License)\'로 배포한다.

이에 따라 개발자와 스타트업, 연구기관, 기업 등이 별도 비용이나 제약 없이 모델을 활용할 수 있어 국내 AI 생태계 확대와 신규 서비스 개발에 도움이 될 것으로 회사는 기대했다.

노병석 카카오 유니파이드 파운데이션 모델 성과리더는 "에이전틱 AI 시대를 준비하며 클라우드의 대규모 AI와 온디바이스 경량 AI 모두의 중요성을 체감하고 있다"며 "카카오는 두 영역에서 기술 경쟁력을 높여가고 있으며, 이번 오픈 소스 공개 모델들이 더 많은 개발자와 기업의 새로운 AI 서비스 개발로 이어져 국내 AI 생태계 활성화에 기여할 수 있기를 바란다"고 말했다.