AI 개발 속도 어떡할까…”잠시 쉬자” vs “공포 조장”

생성 인공지능(AI) 개발 속도에 대한 논란이 커지고 있다. 일각에선 생성 AI 개발을 잠시 중단하자는 목소리가 나왔다. 반면 이는 AI에 대한 공포심을 조장한다며 개발 속도를 지금처럼 유지하면서 안정성·윤리를 동시에 관리하자는 대립 의견이 팽팽히 맞섰다.

계기는 지난해 11월 공개된 오픈AI의 챗GPT다. 이후 챗GPT를 비롯한 생성 AI는 일상생활뿐만 아니라 다양한 산업에 스며들었다. 오픈AI는 지난달 문자뿐만 아니라 이미지까지 이해할 수 있는 멀티모달 GPT-4 버전을 내놓기도 했다.

챗GPT 출현 이후 생성 AI 발전 속도가 걷잡을 수 없이 빨라지자, 전문가들은 생성 AI 개발 속도에 대한 상반된 의견을 제시한 셈이다.

미래생명연구소는 “GPT-4 기능을 넘어서는 AI 개발을 6개월 중단하자”는 공개서한을 내놨다. (사진=FLI)

논란은 미국 비영리단체 미래생명연구소(FLI)가 “GPT-4 기능을 넘어서는 AI 개발을 6개월간 잠정 중단하자”는 공개서한을 지난달 28일 발표하면서 촉발됐다. 당시 FLI는 지지자를 3천명까지 모았다고 주장했다. 생성 AI에 대한 윤리적·안전성 문제가 해결될 때까지 개발을 약 6개월 잠정 중단하자는 목적으로 시작한 서명 운동이다.

이 서한은 서명에 동참한 인물 때문에 주목을 끌었다. 일론 머스크 테슬라 최고경영자(CEO), 스티브 워즈니악 애플 공동창업자, 딥러닝 창시자인 요슈아 벤지오 몬트리올대 교수 등이 서명했다.

해당 서한은 “생성 AI가 인간 언어를 이해하고 구사하는 데 필요한 대규모 언어 모델을 구축하는 과정에서 데이터를 어떻게 처리하는지 분명하게 알 수 없다”고 지적했다. 또 생성 AI로 인한 허위정보 확산, 해킹, 대규모 실업 등에 대해 우려했다.

가트너 아비바 리탄 부사장은 “곧 GPT-4.5와 GPT-5가 등장할 것이고 그 뒤를 이어 범용인공지능(AGI)시대가 올 것”이라며 “이때 인간을 보호하는 안전조치를 도입하기엔 너무 늦은 시기일 것”이라며 개발 잠정 중단을 찬성했다.

이탈리아가 챗GPT 접속을 차단했다. (사진=오픈AI)

이탈리아는 생성 AI에 대한 우려로 챗GPT 접속을 이달 초 아예 차단했다. 챗GPT가 개인정보와 데이터를 윤리적이고 안전하게 활용했는지 불분명하다는 이유에서다. 빠른 생성 AI 개발 속도로 인한 윤리적·안정성 피해를 막기 위해 챗GPT를 차단한 첫 사례다.

이탈리아 데이터보호청은 오픈AI가 유럽연합의 개인정보보호규정을 지켰는지 확인하겠다고 밝혔다. 데이터보호청 측은 “챗GPT는 모델 학습 목적으로 개인정보나 관련 데이터를 활용할 자격을 갖고 있지 않다”고 주장했다. 또 “챗GPT 사용자 연령을 확인할 수도 없다”며 “청소년 인지 발달에 부적절한 답을 제공할 수 있다”고 지적했다.

이에 오픈AI는 개인정보 보호에 최선을 다하고 있다고만 밝혔다.

(사진=픽사베이)

개발 잠정 중단이 AI 미래에 대한 지나친 공포심을 심어준다는 주장도 나왔다. AI 윤리와 안전성을 비롯한 허위정보, 범죄 활용 가능성 문제 등을 단지 개발 중단만으로 해결할 수 없다는 이유에서다.

맥아피 스티브 그롭만 최고기술책임자(CTO)는 AI 훈련 중단에 대해 “AI 개발을 6개월 멈춘다고 해서 나중에 100% 안전한 AI를 만들 수 있는 보장도 없다”고 벤처비트와의 인터뷰에서 1일(현지시간) 주장했다.

스티브 그롭만 CTO는 생성 AI를 비윤리적으로 활용하는 집단을 이유로 꼽았다. 그는 “생성 AI를 공격했던 해커들이 AI 개발 중단 기간 동안 얌전히 있지 않을 것”이라며 “오히려 해커들은 새로운 생성 AI 공격 경로를 만들고 치밀하게 기술을 연마할 것이다”고 덧붙였다. AI 개발 중단이 윤리, 안전성을 확립할 수 없단 의미다.

그롭만 CTO는 AI 시스템 훈련 금지가 학계에 과도한 규제로 작용할 수 있다는 점도 강조했다. 그는 “AI는 응용 수학”이라며 “정부와 기업이 이 학문을 법률로 규제하거나 막을 수 없다”고 못박았다. 그롭만 CTO는 “오히려 사람들에게 이를 잘 이해하고 책임감 있게 사용하도록 가르쳐야 한다”고 말했다.

미국 코네티컷대학 시리 도리 하코헨 조교수도 “AI는 인간 지능 수준을 추월하지 않아도 이미 각종 위험을 충분히 일으킬 수 있다”며 “이제와서 GPT-4 수준을 넘는 AI 개발을 6개월 중단하는 건 큰 의미가 없다고 본다”고 지적했다.

중국 국기 (사진=구글)

미국의 생성 AI 개발 중단은 중국에 오히려 이득이라는 주장도 나왔다. 미국 전략 및 국제 문제 연구소(CSIS) 제임스 루이스 전략 기술 프로그램 수석 부사장은 “미국에서 생성 AI 기술 개발을 멈추면 손해다”고 미국 국제방송 미국의 소리와의 인터뷰에서 1일(현지시간) 말했다.

제임스 루이스 수석 부사장은 “현재 중국은 미국보다 GPT와 같은 언어 모델 기술에 뒤처지고 있다는 걸 인식했다”며 “미국이 개발 중단을 하는 동안 중국이 이를 추월할 가능성도 있다”고 밝혔다. 그는 “개발을 중단하는 것보단 미국식 AI 거버넌스 구축을 개발과 함께 하는 게 맞다”고 주장했다.

AI 개발 중단을 반대하는 이들은 FLI서한에 서명한 명단 진위 여부도 문제 삼았다. 일론 머스크 CEO 등 유명인사들의 서명 여부가 명확하게 드러나지 않아서다. 중국 국가수석 시진핑, 메타 얀 르쿤 수석 과학자도 서명 명단에 포함됐다. 이들은 내용에 동의한 적 없고 밝혔다.

FLI 서명에 동의하지 않았다고 트위터에서 입장을 밝힌 얀 르쿤 수석과학자 (사진=트위터)

AI 발전 잠정 중단 요청이 오픈AI를 겨냥한 것이라는 주장도 나왔다. 벤처비트 등 IT 외신은 상대적으로 AI 연구에서 뒤처진 경쟁자들이 생성 AI 개발 선두 주자인 오픈AI를 따라잡기 위한 전략으로도 볼 수 있다고 분석했다.

허깅페이스 마거릿 미첼 수석 윤리과학자는 “도대체 FLI가 말하는 ‘GPT-4를 능가하는 AI’가 무엇인지조차 서한에 명시돼 있지 않았다”고 지적했다.