카카오 Kanana-2 SLM 4종 오픈소스… 온디바이스·한국어 토크나이저 실무 가이드

핵심 요약

카카오는 2026년 7월 28일 경량 언어모델(SLM) Kanana-2 시리즈 4종을 Hugging Face 에 오픈소스로 공개했습니다(카카오, 2026-07-28). ▲Kanana-2-1.3B-base ▲1.3B-instruct ▲3B-base ▲3B-instruct 모델로, 스마트폰·엣지 디바이스 구동을 전제로 합니다. 한국어 특화 토크나이저 적용으로 한국어 처리 효율 30% 이상 개선을 주장했고, Kanana Open License 로 상업적 활용까지 허용합니다. 국내 스타트업·SI가 프라이버시·비용·지연시간 민감 워크로드에 SLM을 붙일 때, 이번 릴리스는 벤치마크·파인튜닝 출발점으로 바로 쓸 수 있습니다.

무슨 일이 있었나

카카오(2026-07-28) 보도자료에 따르면 Kanana-2는 1.3B·3B 두 스케일의 base/instruct 쌍으로 제공됩니다. instruct 모델은 대화·지시 따르기에, base는 추가 학습·도메인 적응에 맞춰졌습니다.

핵심 기술 차별점은 한국어 특화 토크나이저입니다. 토크나이저는 문장을 subword 단위로 쪼개 추론 비용·속도를 좌우합니다. 카카오는 지난해 완성한 토크나이저를 Kanana-2 전반에 적용해 동일 한국어 문장을 더 적은 토큰으로 처리한다고 설명했습니다(카카오, 2026-07-28). 영어 중심 토크나이저 대비 한국어 SLA·API 비용 절감에 직접 연결됩니다.

라이선스는 Kanana Open License 로, 개발자·스타트업·연구기관의 상업적 활용을 명시적으로 허용합니다. 국내 LLM 생태계에서 라이선스 불확실성이 배포 장벽일 때, 상업 허용 OSS는 PoC→프로덕션 경로를 단축합니다.

배포 채널은 Hugging Face 이며, 일반적인 transformers·llama.cpp·ONNX 변환 파이프라인과 호환되는 형태로 공개됐습니다(카카오, 2026-07-28).

개발자 관점 — 어디에 쓰기 좋은가

온디바이스·엣지: 1.3B는 모바일 NPU·중급 GPU에서 interactive latency를 노릴 수 있습니다. 고객센터 오프라인 FAQ, 로컬 PII 마스킹 후 분류, 키워드+요약 등 클라우드 API 금지 환경에 적합합니다.

RAG 보조 레이어: 3B instruct를 쿼리 리라이트·청크 선택 전용으로 두고, 최종 답변은 대형 모델에 맡기는 cascade 구조가 비용·품질 균형에 유리합니다. 한국어 토큰 효율은 벡터 DB ingest 비용도 줄입니다.

파인튜닝: base 모델 + LoRA/QLoRA 로 도메인(금융·법률·사내 위키) 적응이 현실적입니다. 1.3B는 단일 GPU 실험, 3B는 A100 1장·소규모 팀 기준입니다.

한계 인식: SLM은 복잡 추론·장문 생성·다국어에서 70B+ 대비 열세입니다. eval harness(한국어 QA·Hallucination· toxicity)를 사전에 정의하지 않으면 "오픈소스 공개"만으로 프로덕션 투입은 위험합니다.

체크포인트와 리스크

• 체크포인트
• Hugging Face 모델 카드·벤치마크 수치(공식)
• Kanana Open License attribution·파생물 조항
• transformers 버전·토크나이저 vocab 호환
• 양자화(GGUF/AWQ) 커뮤니티 빌드 품질
• 개인정보보호법·금융 규제 로컬 추론 요건 충족 여부
• 리스크 요인
• instruct 모델 환각 — RAG 없이 단독 배포 시
• OSS 모델 보안 패치·CVE 책임은 사용자
• 카카오 서비스와 동일 가중치 아님 — 별도 eval 필요
• 경쟁 SLM(Exaone·HyperCLOVA X mini 등)과 벤치마크 cherry-pick 주의

마무리

Kanana-2 공개는 "국내 또 하나의 LLM"을 넘어 한국어 토큰 효율 + 상업 OSS + SLM이라는 실무 조합을 제시합니다. 대형 API 경쟁이 CAPEX·규제 이슈로 흔들리는 2026년, 엣지·하이브리드 아키텍처를 이미 쓰는 팀은 Hugging Face에서 1.3B-instruct 를 내려받아 사내 golden set으로 1주일 eval하는 것부터 시작하는 것이 합리적입니다. 공개 모델을 그대로 쓰기보다 도메인 LoRA + RAG 가 국내 서비스 품질·컴플라이언스 균형에 맞습니다.

고유 인사이트: "한국어 30% 효율"은 모델 크기가 아니라 토큰당 원화 비용 문제입니다. 클라우드 API 과금이 입력 토큰 기준이면, 동일 QPS에서 Kanana-2 계열은 월 추론비를 선형 절감할 수 있습니다. PoC 설계 시 토큰/요청을 영·한 각각 로깅해 비교하면, 벤치마크 점수보다 빠르게 ROI를 판단할 수 있습니다.

참고 자료

• 카카오, 경량 언어모델 4종 오픈소스로 공개 — Kanana-2 SLM - 카카오 (2026-07-28)