[중앙일보] [팩플] 중국, 메타 AI로 군사용 AI 개발…커지는 오픈소스 AI發 위협

AP=연합뉴스

중국이 메타의 오픈소스 인공지능(AI) 모델을 활용해 군사용 AI 모델을 개발했다. 불특정 다수에게 제공되는 오픈소스 모델이 군사적 목적 등 통제 불가능한 방향으로 흐를 수 있다는 우려가 커지고 있다.

로이터는 중국 인민해방군(PLA) 핵심 연구기관인 군사과학원(AMS) 연구원 등이 메타의 오픈소스 AI 모델 ‘라마’(Llama)를 활용해 군사용 AI 모델 ‘챗비트(ChatBIT)’를 개발했다고 1일(현지시간) 밝혔다. 이들은 지난 6월 발표한 논문을 통해 “라마2 13B(매개변수 130억 개)를 활용해 군사 분야의 대화 및 질의응답에 최적화 된 모델을 개발했다”고 밝혔다. 써니 청 제임스타운재단 부연구위원은 “중국 군 전문가들이 오픈소스 거대언어모델(LLM)을 군사적인 목적으로 연구·활용하려고 시도해왔다는 실질적 증거가 나온 것은 이번이 처음“이라고 말했다.

로이터에 따르면 논문 저자들은 10만 건의 군사 대화 기록을 학습 데이터로 활용했다. 향후 모델 업그레이드를 통해 정보 분석 뿐 아니라 전략적 계획 수립 및 의사 결정 등에도 사용할 수 있게 할 계획이다. 다만 조엘 피노 메타 AI 연구 부사장은 로이터에 “수조 개의 토큰으로 훈련된 대부분의 모델과 비교하면 터무니없이 부족한 양”이라며 “실제로 기능할 수 있을지 의문이 든다”고 밝혔다. 중국 측도 해당 모델을 실제로 사용하고 있는지는 밝히지 않았다.

로이터=연합뉴스

소프트웨어의 개발 소스코드를 대중에게 공개해 누구나 자유롭게 사용·복제·배포·수정·활용할 수 있게 개방하는 게 오픈소스의 정신이었지만, 최근에는 이 ‘개방성’이란 특성 때문에 기술 오·남용 위협에 대한 우려가 커지는 상황이다. 반인륜적인 범죄 행위를 저지르는 조직이나 딥페이크·해킹 등의 범죄에 오픈소스 AI가 쓰이고 있다는 정황들이 나오면서다.

오픈AI나 구글 등은 소스코드를 외부에 공개하지 않고 모델을 끌어다 쓸 수 있는 API(응용 프로그램 인터페이스)만 유료로 제공하고 있다. 샘 올트먼 오픈AI CEO는 지난해 9월 미국 의회가 개최한 ‘AI 인사이트 포럼’에서 “오픈소스가 잘못된 정보와 유해한 자료를 퍼뜨릴 수 있다”고 지적하기도 했다.

특히 미국은 자국 빅테크가 만든 AI 모델이 중국의 ‘AI 굴기’에 쓰이는 것을 우려하고 있다. IT 전문 매체 디인포메이션은 1일 “워싱턴에서 미국 기술이 중국의 군사 역량을 키우는 데 도움이 된다는 우려가 나오고 있다”고 보도했다. 지난 5월 로이터에 따르면 미 상무부는 일부 AI 모델의 수출을 제한하는 규제안을 검토하고 있다. 2022년 10월 AI 반도체의 중국 수출을 금지하는 행정 명령의 연장선인 셈이다.

메타는 PLA가 군사적 목적으로 라마를 사용하는 게 라이선스 조건에 위배된다는 입장이다. 메타는 군사와 전쟁, 핵 산업 또는 응용 분야, 간첩 활동 등에는 모델 사용을 금지한다는 원칙을 밝히고 있다. 몰리 몽고메리 메타 공공정책 책임자는 로이터에 “중국군이 우리 모델을 사용하는 건 허가받지 않은 일이며, 사용 정책에 위배된다”며 오용을 방지하기 위한 조치를 취했다고 밝혔다. 다만 어떤 조치를 취했는지는 밝히지 않았다.

오픈소스 모델은 이미 배포된 이상 금지 조항을 강제할 수단이 없어 메타가 취할 수 있는 조치에는 한계가 있을 것이란 우려도 나온다. 존 서플 미 국방부 대변인은 “우리는 오픈 소스 모델의 장점과 단점을 모두 인식하고 있으며, 중국의 능력을 면밀히 모니터링하고 평가할 것“이라고 전했다.