[한겨레] 범용 AI의 ‘지능 폭발’, 인류가 지배당하지 않으려면…

지난 17일 이후 오픈에이아이(OpenAI)에서 최고경영자 샘 올트먼을 둘러싸고 펼쳐진 기업 드라마는 숱한 해석과 추측을 낳았다. 새로 구성된 이사회가 올트먼과 종전 이사회의 해고 과정에 대한 조사를 하기로 해, 상세한 내용이 밝혀질 예정이지만 오픈에이아이 사태는 현재 인공지능 기술 논의에서 가장 핵심적인 사안이 무엇인지를 드러냈다. 바로 ‘범용 인공지능(Artificial General Intelligence:AGI, 또는 일반 인공지능)’이다. 범용 인공지능은 인류에게 유익한 도구일까, 파멸을 가져오는 도구일까?

■ 범용 인공지능(AGI)이란?

범용 인공지능은 사람과 같은, 또는 사람을 뛰어넘는 수준의 자율적인 인공지능을 의미한다. 알파고·미드저니는 인간을 뛰어넘는 인공지능이지만 각각 바둑·그림에서만 기능하고 나머지 영역에서는 젬병이다.

현재는 아무리 뛰어난 인공지능도 보고 듣고 말하고 걷고 뛰며 공을 차고 모래성 쌓기를 하는 세 살짜리처럼 복합적 행동을 할 수 없다. 인공지능과 범용 인공지능의 차이는 유연성과 복잡성이다. 범용 인공지능은 좁은 분야에서만 기능하는 인공지능과 달리 사람처럼 다양한 분야를 넘나들며 유연하게 직무를 수행할 수 있다. 오픈에이아이는 범용 인공지능을 “경제적으로 가치있는 일에서 인간을 능가하는 자율시스템”으로 정의하는데, 사람처럼 일반화·학습·이해·추론 능력을 갖춘 인공지능을 말한다. 범용 인공지능이 일단 이 능력을 갖추면 기하급수적 속도의 학습을 거쳐 지능폭발로 이어지고 오래지 않아 슈퍼 인공지능이 될 가능성이 크다.

오픈에이아이가 지난 3월 지피티4(GPT4)를 공개하며 선보인 멀티모달(MultiModal) 기능은 거대언어모델과 이미지 인식기능을 결합해, 사람처럼 이미지를 보고 추론을 하고 텍스트 명령을 이미지로 구현해 경탄을 불렀다. 이에 요수아 벤지오, 스튜어트 러셀, 유발 하라리 등 1000여명 넘는 인공지능 전문가와 명사들이 ‘삶의미래연구소(FLI)’와 함께 “지피티4 이상의 인공지능 개발을 6개월간 일시 중단하고 안전망 마련을 논의하자”는 성명을 낸 바 있다.

마이크로소프트리서치 연구진이 지난 4월 발표한 논문(‘범용 인공지능의 불꽃:GPT4의 초기실험’)은 “지피티4가 언어 숙달을 넘어 수학·코딩·시각·의학·법률·심리학 등을 아우르는 새롭고 어려운 과제를 특별한 지시 없이도 해결할 수 있으며 인간 수준에 놀라울 정도로 근접해, 범용 인공지능의 초기 버전으로 볼 수 있다”고 결론내렸다.

오픈에이아이는 “인류 전체에게 이로운 범용 인공지능의 안전한 개발”을 사명으로 약관에 명시했다. 오픈에이아이는 2015년 비영리법인으로 설립할 때부터 ‘범용 인공지능 개발’을 목표로 삼았고, 구성원들은 그 깃발 아래 모인 이들이다.

정보기술매체 ‘와이어드’의 지난달 보도에 따르면, 올트먼은 오픈에이아이 창업 당시부터 범용 인공지능이 실제로 구현가능하다는 확신을 가지고 직접 개발에 뛰어들었다.

지난 2일 영국 블레츨리 파크에서 열린 영국 정부 주관의 인공지능 안전 정상회의에서 오픈AI 최고경영자 샘 올트먼(왼쪽)이 리시 수낙 영국 총리와 이야기하고 있다. 이 회의는 인공지능의 위험성과 그에 대한 국제적 조율을 모색하기 위해 열렸다. 보름 뒤 올트먼은 오픈AI 이사회에서 해고되었다가 5일 만에 복귀하기로 했다. 밀턴케인스/EPA 연합뉴스

■ 오픈AI “범용 인공지능 개발이 사명”

‘범용 인공지능’은 오픈에이아이를 이해하는 열쇳말이다. 오픈에이아이가 특허와 연구결과를 공개하는 비영리조직으로 출범하고 독특한 지배구조를 갖추게 된 배경도 범용 인공지능이 가져올 위험에 대한 고려다. 오픈에이아이의 독립된 이사회는 범용 인공지능의 안전한 개발을 위해서 최고경영자를 해고할 수 있고, 자회사인 영리법인의 경제적 동기를 고려할 필요 없다.

범용 인공지능 개발에는 방대한 컴퓨팅 자원과 자금이 필수적이다. 올트먼은 지난 13일 파이낸셜타임스 인터뷰에서 “범용 인공지능을 겨냥한 차세대 모델 지피티5 개발에 착수했으며 이를 위해 마이크로소프트의 추가 자금지원이 필요하다”고 밝힌 바 있다.

범용 인공지능 개발이 올트먼 해고의 계기라는 주장도 있다. 로이터는 지난 22일 오픈에이아이의 연구원들이 얼마 전 “인류를 위협할 수 있는 강력한 인공지능 발견을 경고하는 편지를 이사회에 보냈다”고 보도했다. 오픈에이아이 연구진이 개발 중인 큐스타(Q*)가 초등학교 수학문제를 스스로 풀어 범용 인공지능에 근접했다는 내용이다.

범용 인공지능은 사람들이 해오던 일을 대부분 대신 할 수 있으며 암·치매 등 난치병 치료에 획기적 돌파구를 마련하고 신물질 발견과 기후변화 문제 등을 해결할 도구라는 기대를 받고 있다. 한편 인간 지능보다 뛰어난 통제불가능한 기계가 되어 인류 생존을 위협하고 사회질서와 경제를 교란할 수 있다는 우려도 크다. 오픈에이아이 사태는 범용 인공지능 개발을 놓고 신중론자와 낙관론자들 간에 벌어진 신념의 충돌 결과라는 해석이 나오는 배경이다.

범용 인공지능이 얼마나 임박했는지는 분명치 않지만, 신중론자들의 잇단 문제제기와 제동 시도에 아랑곳하지 않고 인공지능 연구개발은 가속화하고 있는 현실이다. 지피티4 이후 잇따라 제기된 경고에도, 이사회의 샘 올트먼 해고결정도 아무런 변화를 가져오지 못했다. 뉴욕타임스는 지난 22일 오픈에이아이의 올트먼 복귀와 이사회 개편에 대해 “인공지능이 자본주의자들에게로 넘어갔다”고 평가했다.

구본권 사람과디지털연구소장

출처 : https://v.daum.net/v/20231127090502691