[블로터]카카오, 딥러닝 기술 기반 형태소 분석기 오픈소스로 공개

카카오가 인공지능 기술을 적용한 형태소 분석기를 오픈소스로 공개했다.

이번에 공개된 ‘khaiii‘(Kakao Hangul Analyzer III, 카이)는 딥러닝으로 학습한 데이터를 활용해 형태소를 분석하는 기술이다. 딥러닝 기술 기반의 형태소 분석기가 오픈소스로 제공되는 것은 국내에서 처음이다.

형태소 분석 기술은 2개 이상의 글자로 이뤄진 단어나 문장 입력 시 의미를 가진 언어 단위 중 가장 작은 단위인 형태소 단위로 자동 분리하는 기술이다. ‘학교에 간다’라고 입력하면’학교(명사)+에(조사)+가(동사)+ㄴ다(어미)’로 형태소 단위와 품사를 파악해 분류해내는 기술이다. 주로 자연어처리 응용 서비스의 기반 기술로 사용되며 정보 검색, 기계 번역, 스마트 스피커나 챗봇 등 여러 서비스에 활용된다.

카이는 딥러닝 기술 중 하나인 CNN(Convolutional Neural Network) 기술을 이용해 음절 기반으로 형태소를 분석한다. 카카오는 국립국어원에서 배포한 세종 코퍼스 데이터를 기반으로 데이터 오류를 수정하고 카카오에서 자체 구축한 데이터를 추가해 85만 문장, 1천만 어절의 데이터를 학습해 정확도를 높였다. 또 딥러닝 과정에서 C++ 언어를 적용해, 일반적으로 딥러닝에 쓰이는 GPU를 사용하지 않고도 빠른 분석 속도를 구현했다.

카카오는 한국어 연구, 챗봇 및 자연어 처리 응용기술 개발 등 한국어를 활용하는 다양한 분야에서 카이를 활용해 형태소 분석 비용과 시간을 줄일 수 있을 것으로 기대했다.

카이는 깃허브에서 누구나 무료로 이용할 수 있다.

카카오 김응균 자연어처리파트장은 “한국어를 연구하는 분들에게 도움이 되고자 형태소 분석기를 공개하게 됐다”라며 “앞으로도 다양한 분야에서 딥러닝 기반의 기술연구를 진행하고 공유해 나갈 예정이다”라고 밝혔다.

출처 : http://www.bloter.net/archives/325468