[인공지능신문]카카오브레인, 한국어 초거대 AI 언어모델 ‘KoGPT’ 공개…오픈소스로 누구나 사용한다!

인공지능이 인간처럼 생각하고 글을 써주는 한국어 ‘초거대 AI 시대’로 진입했다. 카카오브레인(대표 김일두)이 ‘GPT-3’ 모델의 한국어 특화 AI 언어모델 ‘KoGPT’를 최대 오픈소스 커뮤니티 깃허브(github)에 공개했다. 

OpenAI의 언어 모델 GPT-3는 인간과 AI가 자연어 기반으로 소통할 수 있는 AI 모델로 딥러닝의 한계를 끌어올려 차세대 AI 시대를 열었다고 평가받는 기술이다

예를 들어, 기존의 딥러닝 방식에서 감성 분석을 할 때 사람의 선호도를 파악하기 위해 엄청나게 많은 데이터를 확보하고, 좋음 또는 나쁨을 판단해 레이블링을 했었다.

GPT 모델을 적용하면, 추가 학습 없이 스스로 판단해 감정 분석을 할 수 있다. 예를 들어 영화 리뷰 댓글을 보고 댓글이 영화에 대한 긍정적인지 부정적인지 판별할 수 있고, 글의 내용을 짧게 요약 가능하다.

예를 들어, “3주 동안 식물에게 물을 주었다” 라는 글을 입력하면 “식물이 꽃을 피웠다” 처럼 인과 관계를 예측해 보여주고 다음 이야기도 스스로 적을 수 있다.

카카오브레인의 ‘KoGPT’는 이같은 ‘GPT-3’ 모델의 한국어 특화 버전이다. 60억개의 매개변수와 2000억개 토큰(token)의 한국어 데이터를 바탕으로 구축했다.

‘KoGPT’는 한국어를 사전적, 문맥적으로 이해하고 이용자가 원하는 결과값을 보여 준다. 주어진 문장의 긍정과 부정 판단, 긴 문장 한줄 요약, 문장을 추론해 결론 예측, 질문을 하면 문맥 이해해 답변하는 등 언어를 가지고 활용할 수 있는 모든 과제를 수행한다. 

맥락에 따라 자동으로 글쓰기가 가능해지기 때문에 상품 소개글 작성, 감정 분석, 기계 독해, 기계 번역 등 높은 수준의 언어 과제를 해결하고 다양한 분야에서 활용할 수 있다.

카카오브레인은 추후 한국어 뿐만 아니라 영어, 일본어 모델도 준비해 오픈소스화한다. 베트남어, 말레이시아어 등 동남아시아 언어도 준비해 더 많은 곳에서AI 기술의 혜택을 누릴 수 있도록 할 예정이다.

카카오브레인 김일두 대표는 “앞으로 GPT 기술의 사이즈와 성능을 100배 규모로 키울 예정” 이라며 “GPT는 대규모 데이터를 다루기 때문에 높은 수준의 리소스와 투자가 필요하다. GPT를 오픈소스로 개방해 일반 대학이나 스타트업 등의 기술 접근성을 높일 것”이라고 포부를 전했다. 

또 ‘KoGPT’에 이어 초거대 AI의 다양한 모델을 발표하는 등 지속적으로 혁신 기술을 공유하고 국내 IT 기술 발전과 연구 활성화에 기여해 다양한 사회 문제를 같이 해결하기 위해 노력할 것” 이라고 밝혔다.

한편, 카카오브레인 한국어 특화 AI 언어모델 ‘KoGPT’는 현재, 깃허브(github-다운)에 공개돼 있다.