"글·음성·사진 동시 이해"…카카오, AI 언어모델 성능 공개

카카오 멀티모달 언어모델 '카나나-o' 성능 공개

한국어·영어 벤치마크서 글로벌 최고 모델과 유사

"감정까지 이해하고 소통하는 AI 모델 가능성 입증"

카카오가 개발한 통합 멀티모달 언어모델 '카나나-o'의 벤치마크 성능 비교표.ⓒ카카오

카카오가 통합 멀티모달 언어모델 '카나나-o'와 오디오 언어모델 '카나나-a'의 성능과 개발 후기를 1일 공개했다.

통합 멀티모달 언어모델인 '카나나-o'는 국내 최초로 텍스트와 음성, 이미지까지 다양한 형태의 정보를 동시에 이해하고 처리할 수 있는 모델이다.

텍스트, 음성, 이미지 중 어떠한 조합으로 질문을 입력하더라도 처리 가능하며, 상황에 맞는 텍스트나 자연스러운 음성으로 응답 가능한 구조로 설계됐다.

카카오는 '모델 병합(Model Merging)' 기술을 기반으로 이미지 처리에 특화된 모델 '카나나-v'와 오디오 이해 및 생성에 특화된 '카나나-a' 모델을 통합, 단기간에 '카나나-o'를 개발했다.

통합 후에는 이미지, 오디오, 텍스트 데이터를 동시에 학습하는 '병합 학습(Joint Training)'을 통해 시각과 청각 정보를 동시에 이해하고, 텍스트와 연결 지을 수 있도록 훈련을 거쳤다.

이러한 과정을 통해 기존 LLM(대형언어모델) 구조에서 이미지 이해 능력과 음성 인식과 합성, 감정 이해 등 오디오 능력을 확장시킨 통합 멀티모달 언어모델을 구현했다.

카나나-o는 음성 감정 인식 기술을 통해 사용자 의도를 해석하고, 상황에 맞는 적절한 반응과 답변을 제공한다. 억양, 말투, 목소리 떨림 등 비언어적 신호를 분석하고, 대화 맥락에 맞는 감정적이고 자연스러운 음성의 응답을 생성하는 것이 특징이다.

대규모 한국어 데이터셋을 활용해 한국어의 특수한 발화 구조, 억양, 어미 변화 등을 반영하기도 했다. 제주도, 경상도 등 지역 방언을 인식하고 이를 표준어로 변환해 자연스러운 음성을 생성할 수 있다. 카카오는 현재 독자적인 한국어 음성 토크나이저(Tokenizer, 오디오 신호를 일정 단위로 작게 분해하는 도구)를 개발하고 있다.

카카오의 통합 멀티모달 언어모델 '카나나-o'를 활용한 창작 예시.ⓒ카카오

스트리밍 방식의 음성합성 기술을 적용해 사용자가 긴 대기 시간 없이 응답을 제공하는 강점도 보유했다.

예컨대, 이미지와 함께 "이 그림에 어울리는 동화를 만들어 줘"라고 입력하면, 카나나-o는 해당 음성을 이해하고 사용자의 억양과 감정 등을 분석해 이야기를 실시간으로 생성해 들려준다.

카나나-o는 한국어 및 영어 벤치마크에서 글로벌 최고 모델들과 유사 수준을 기록했으며, 한국어 벤치마크에서는 높은 우위를 보였다.

특히, 감정인식 능력에서는 한국어와 영어에서 큰 격차를 기록하며, 감정까지 이해하고 소통할 수 있는 인공지능(AI) 모델의 가능성을 입증했다. 이미지와 음성을 통합적으로 이해해야 하는 '이미지-음성 QA(질의응답)' 과제에서도 높은 성능을 달성했다.

카카오는 향후 카나나-o를 통해 ▲다중 턴(Multi-turn) 대화 처리 ▲Full-duplex(양방향 데이터 동시 송수신 기술) 대응 능력 강화 ▲부적절한 응답 방지를 위한 안전성 확보 등을 목표로 연구 개발을 지속해 갈 계획이다.

이를 통해 다중 음성 대화 환경에서의 사용자 경험을 혁신하고, 실제 대화에 가까운 자연스러운 상호작용을 실현해가는 것이 목표다.

카카오 김병학 카나나 성과리더는 "카나나 모델은 복합적인 형태의 정보를 통합적으로 처리함으로써 기존의 텍스트 중심 AI를 넘어 사람처럼 보고 듣고 말하며 공감하는 AI로 진화하고 있다"며 "독자적인 멀티모달 기술을 바탕으로 자사의 인공지능 기술 경쟁력을 강화하는 한편, 지속적 연구 결과 공유를 통해 국내 AI 생태계 발전에 꾸준히 기여할 계획"이라고 말했다.