AI 가짜뉴스 방치하면… “사람들이 팩트체크 포기하는 상황이 온다”

지난달 22일(현지시간) 미 국방부 청사 펜타곤에서 검은 연기가 피어오르는 사진이 트위터에서 급속도로 확산했다. 이 사진은 인공지능(AI)이 만든 가짜 이미지로 추정됐다. 심지어 해당 건물은 실제 펜타곤도 아닌 것으로 확인됐다. 트위터 캡처

지난달 22일 미 국방부 청사(펜타곤)에서 검은 연기가 피어오르는 사진이 급속도로 온라인에 퍼졌다. 미국의 ‘힘의 상징’ 펜타곤이 9·11 이후 22년 만에 테러 대상이 됐음을 보여준 이미지였다. 알고 보니 이 사진은 생성 인공지능(AI)이 만든 것으로 추정되는 가짜 이미지. 그러나 몇 시간 만에 이 사진은 트위터 등 온라인 세상을 휩쓸었고, 급기야 금융시장에까지 영향을 미쳤다. ①진짜 같은 이미지가 ②그럴듯한 내러티브 및 ③사람의 원초적 공포감과 화학적 결합을 이룰 때, 세상을 얼마나 공황상태로 몰고 갈 수 있는지를 보여준 상징적인 사건이었다.

이렇게 AI 가짜뉴스의 공습은 이미 시작됐다. 챗GPT로 대표되는 생성 AI가 이미지와 이야기를 더 감쪽같이 날조할 수 있게 되자 가짜뉴스는 폭발적인 위력을 떨치는 중이다. 누구나 허위사실을 더 쉽게, 더 정교하게, 더 빠르게 생산할 수 있다.

니컬러스 디아코풀로스 노스웨스턴대 교수.

AI와 만나 더 강력해진 가짜뉴스의 전성시대, 진실의 가치를 지키고 민주주의를 수호하기 위해 우리는 어떻게 대처해야 할까.

한국일보는 AI가 저널리즘에 미칠 영향과 해법을 연구하고 있는 미국의 인공지능·언론학 분야 최고 전문가 4명에게 그 길을 물었다. ①니컬러스 디아코풀로스 노스웨스턴대 교수(컴퓨터 저널리즘) ②힐케 셸먼 뉴욕대 교수(언론학) ③노아 지안시라쿠사 벤틀리대 교수(수리과학) ④이동원 펜실베이니아주립대 교수(컴퓨터과학)가 그들이다. 이들은 △생성 AI 등장에 따라 저널리즘의 변화가 불가피하며 △언론·국가·시민이 함께 AI 가짜뉴스라는 ‘민주주의의 적’을 상대해야 한다고 입을 모았다.

프란치스코 교황이 이탈리아 명품 발렌시아가의 재킷을 착용한 모습의 가짜 이미지가 지난 3월 트위터에 유포됐다. 트위터 캡처

생성 AI, 어디까지 왔나요?

펜타곤 피격 사진과 더불어 생성 AI의 위력을 보여준 이미지는 바로 프란치스코 교황이 ‘발렌시아가 명품 코트’를 입은 사진이다. 올해 3월 사제복 대신 3,000달러 패딩코트를 입은 교황의 사진은 삽시간에 세계적인 주목을 받았다. 이미지 생성 AI ‘미드저니’가 만든 가짜사진임이 확인되기 전까지, 이를 AI의 창작물로 본 사람은 거의 없었다. 합성 흔적이 없이 매우 사실적이었기 때문이다.

당시 미드저니를 돌려 이 사진을 만든 사람은 미국 시카고 출신의 31세 건설노동자였다. 비전문가가 만든 사진 한 장에 전 세계가 낚인 것이었다. 디아코풀로스 교수는 “생성 AI의 등장이 가져온 가장 큰 여파는 사람들의 허위정보 생성 능력을 확장시켰다는 것“이라며 “컴퓨터에 단어만 입력하면 될 정도로 쉬워졌기 때문에 허위 콘텐츠를 만들 수 있는 사람이 (인터넷에 접속할 수 있는) 수십억 명이 됐다”고 경고했다. 가짜뉴스의 제작 비용과 시간이 획기적으로 줄어들었다는 게 디아코풀로스 교수의 진단이다.

물론 AI의 결과물이 완벽한 수준은 아니다. 이 교수는 “일반인은 알아채기 어렵지만 AI가 만든 사진은 눈 홍채 모양이 불규칙하고, 사물과 배경을 이질적으로 표현하는 등 여러 특징을 보인다“고 설명했다. 글의 경우 사진보다 진위를 가리기가 쉬운 편이다. 일반적으로 알려진 사실 관계를 틀리게 말하거나 재미없고 딱딱한 문체를 일관성 있게 구사하는 특징이 있다고 한다.

다만 네 교수 모두 “AI 기술 발전은 이런 허점도 단기간에 메꿀 수 있다”고 전망했다. 지안시라쿠사 교수는 “손가락 표현이 부자연스럽다는 등 생성 AI가 자주 보이는 특징은 AI 새 버전이 출시될 때마다 줄어들 수밖에 없다”며 “뉴스의 경우 속보 같은 짧은 기사에서부터 AI와 인간 기자의 구분이 어려워질 것“이라고 내다봤다.

힐케 셸먼 뉴욕대 교수.

가짜뉴스가 선거에 영향 줄까요?

AI발 가짜뉴스가 어떤 영역에서 얼마만큼의 영향을 미칠지는 누구도 알 수 없다. 다만 네 교수는 내년 미국 대선 등 주요 선거가 중대한 고비가 될 것이라고 짚었다. 셸먼 교수는 “내년 미국 대선에선 가짜뉴스 문제가 더 심할 것”이라며 “인간 언어를 정교하게 모방하는 생성 AI는 사실이 아닌 것을 그럴듯하게 만들어내는 일(환각)에 특히 능숙하기 때문“이라고 이유를 설명했다.

AI 가짜뉴스는 가짜를 진짜로 보이게 하는 일에도 능하지만 진실에 ‘가짜’ 낙인을 찍어버리는 데도 악용될 수 있다. 지안시라쿠사 교수는 “AI로 사실과 허구의 경계가 모호해지면 정치인들이 이런 혼돈을 이용할 수도 있다”며 “예컨대 스캔들에 휘말린 정치인이 ‘그건 내가 아니라 딥페이크(AI 기반 합성 기술)’라고 주장할 수 있는 것“이라고 전망했다.

선거에 임박해 AI 가짜뉴스가 나오면 검증할 시간적 여유가 없어 돌이킬 수 없는 결과를 낳을 공산이 크다. 디아코풀로스 교수는 “특히 허위정보가 선거 당일 같은 결정적 순간에 확산하면 선거 결과에 직접적 영향을 미칠 수 있다”고 말했다.

진짜·가짜 싸움에 지친 유권자들이 아예 시비 가리기를 포기해 버릴 수도 있다. 이 교수는 “사람들은 정보의 참·거짓을 판단하기 어려울 때, 노력을 들여 진실을 알아내려 하는 대신 정보 자체를 무시하거나 다른 일로 관심을 돌리는 경향이 있다”고 그 이유를 설명했다. 가짜뉴스의 범람이 정치 무관심과 투표 포기를 불러와 민주주의의 근간을 흔들 수 있다는 얘기다.

노아 지안시라쿠사 벤틀리대 교수.

가짜뉴스 시대, 언론의 역할은 무엇일까요?

이런 비극을 막으려면 정부의 규제가 시급하다고 교수들은 입을 모았다. 특히 가짜뉴스 확산의 주요 통로가 되는 사회관계망서비스(SNS) 플랫폼들의 책임을 강화하는 조치가 필요하다고 공통적으로 언급했다. 셸먼 교수는 “유방암 진단법을 알리기 위해 여성의 가슴을 노출한 사진을 AI가 외설물이라며 거르는 게 현실”이라며 “그만큼 플랫폼 업체들이 모니터링과 필터링에 적극적이지 않다는 의미”라고 했다. 이어 셸먼 교수는 “나치 미화 콘텐츠가 게시됐을 때 이를 24시간 안에 발견하고 삭제하지 않으면 플랫폼에 벌금을 부과하는 독일처럼, SNS의 관리·감독 의무를 법제화해야 한다“고 주장했다. 지안시라쿠사 교수는 “콘텐츠 생성에 AI가 개입했음을 보여주는 워터마크 삽입을 의무화하는 것도 방지책이 될 수 있다”고 했다.

언론의 책임감도 더 커져야 한다. 지안시라쿠사 교수는 “AI발 허위정보의 확산은 기존 언론엔 기회가 될 수도, 위기가 될 수도 있다”며 “철저한 사실 확인을 바탕으로 보도하는 매체는 ‘진실의 보루’로 평가받겠지만, 반대로 지금껏 신뢰를 구축해 온 매체가 AI발 가짜뉴스를 걸러내지 못하면 공든 탑이 단 한 번에 무너져 내릴 수도 있다“고 했다.

네 전문가는 언론이 가짜뉴스 쓰나미에 휩쓸려 무너지지 않기 위한 방안으로 △팩트체크팀 확충 등 사실 확인 절차 강화 △진실 보도를 위한 가이드라인 구축 등의 필요성을 언급했다. 셸먼 교수는 뉴욕타임스와 가디언이 기자들에게 메시지 애플리케이션 등을 이용해 인터뷰하는 것을 금지한 사실을 예로 들며 “딥페이크 기술의 발전 탓에 인터뷰 대상의 신뢰도를 검증하기 위한 최소한의 장치를 언론사 내부적으로 마련해야 한다“고 했다. 또 “정보 출처, 참고 자료, 취재 방식 등을 독자들에게 상세히 공유하는 노력도 필요하다”고 디아코풀로스 교수는 강조했다.

이동원 펜실베이니아주립대 교수.

뉴스 소비자가 해야 할 일은 없을까. 인류가 가짜뉴스와의 전쟁에서 지지 않으려면 독자의 참여도 절실하다는 게 지안시라쿠사 교수의 생각이다. 그는 “(가짜뉴스의) 폐해를 자신과 상관 없는 현상으로만 보지 않고, 전통적인 언론의 활동과 노력에 더 관심을 가져야 한다”고 강조했다. 셸먼 교수는 “기사를 제목만 보지 말고 내용을 함께 읽어보기만 해도 가짜뉴스에 속을 확률을 줄일 수 있을 것”이라고 조언했다.

이 교수는 “최근 연구에 따르면, 이용자들이 뉴스 공유를 서두르지 않고 진위와 출처 확인에 단 몇 초만 할애해도 가짜뉴스 전파를 막는 데 큰 효과가 있다고 한다“며 “공신력 있는 언론매체가 아니라 SNS로 접한 뉴스라면 공유 전에 한 번쯤 확인하는 자세가 필요하다”고 했다. 내가 본 뉴스가 정말 진실인지, 혹여나 ‘진실이길 원하는’ 내용은 아닌지, 잠깐 숨 고르며 고민하는 것만으로도 민주주의를 지키는 일에 큰 역할을 할 수 있다는 뜻이다.