[이투데이] “나도 모르는 사이 내 얼굴이 영상으로”⋯오픈AI ‘소라’ 악용 우려

| 오픈AI ‘소라’ 앱스토어 1위 달성
| ‘카메오’ 기능, 가짜뉴스 생성 우려

(출처=미국 앱스토어 무료 앱 순위 캡처)

 

오픈AI가 개발한 인공지능(AI) 영상 생성 앱 ‘소라’(Sora)의 다운로드가 100만 건을 돌파하며 큰 인기를 끄는 가운데, 가짜뉴스 등 유해한 콘텐츠를 생성하고 유포하는 데 악용될 수 있다는 우려도 제기된다.

소라는 오픈AI가 지난달 30일 출시한 영상 공유 사회관계망서비스(SNS) 앱으로, 이용자가 프롬프트를 입력하면 짧은 영상을 만들어준다. 10일 기준 미국 앱스토어 무료 앱 순위 1위를 기록했다.

9일 오픈AI의 빌 피블스 소라 부문 대표는 자신의 엑스(X·옛 트위터) 계정에 “소라가 출시한 지 5일도 안 돼 100만 다운로드를 돌파했다. 초대권을 받아야만 이용이 가능하고, 북미만을 타깃으로 삼았음에도 불구하고 챗GPT보다 더 빠른 속도”라고 적었다.

(출처=오픈AI ‘소라’ 캡처)

 

소라에서 가장 인기를 끄는 기능은 ‘카메오(cameo)’ 프로필이다. 카메오 프로필을 등록하면, 소라가 해당 얼굴과 목소리를 활용해 실감 나는 영상을 자동으로 생성한다. 실제로 소라 앱에는 샘 올트먼 오픈AI 최고경영자(CEO) 같은 유명인들을 합성한 영상이 우후죽순 쏟아지고 있다.

문제는 소라 앱 이용자라면 누구나 타인의 카메오 프로필을 이용해 영상을 제작할 수 있다는 점이다. 심지어 카메오 프로필을 직접 선택하지 않아도 영상 제작에 활용될 수 있다. 직접 소라 앱을 써본 결과, 입력한 프롬프트에 따라 영상에서 사람이 등장하는 경우 소라가 임의로 타인의 카메오 프로필을 가져와 영상으로 만들기도 했다.

소라가 딥페이크 영상 등 범죄에 악용될 수 있다는 우려도 제기된다. 실제로 3일 미국의 디지털 전문 기자 테일러 로렌즈는 “스토커가 소라를 이용해 내 얼굴로 AI 영상을 만들고 있다”고 자신의 엑스 계정에 글을 올렸다. 그러면서 “다행히 소라에서 내 얼굴이 포함된 영상을 차단하고 삭제할 수 있었다”고 덧붙였다.

논란이 일자 6일 빌 피블스는 “자신의 카메오가 등장하지 않았으면 하는 주제나 단어를 입력해 영상 생성을 제한할 수 있도록 업데이트했다”고 공지했다. 이어 “카메오 프로필에 대한 제한을 더욱 강화하기 위해 계속해서 노력하고 있으며, 앞으로도 카메오 프로필을 통제할 수 있는 새로운 방법을 추가할 것”이라고 밝혔다.

이용자들은 ‘카메오 프로필을 사용할 땐 영상 하단에 사용자 이름이 표시됐으면 좋겠다’, ‘카메오 프로필을 만든 후 해당 카메오가 어떻게 사용될 수 있는지 확인할 수 있는 보안 탭을 하나 더 추가하면 좋을 것 같다’ 등 다양한 의견을 제시했다.

참고 : https://www.youtube.com/shorts/zqWqZuK11vQ

노희주 기자
출처: https://www.etoday.co.kr/news/view/2513583