[뉴스1] 외설 AI로 수익 창출까지…AI 창작의 ‘그늘’

생성형 AI를 활용한 음란물을 유튜브에서 공유하고 있는 일부 채널. 영상은 22개에 불과하지만 구독자는 수십만 명에 달한다. (유튜브 화면 갈무리)

생성형(Generative) AI의 명과 암이 뚜렷하다.

기존에 없던 새로운 텍스트와 이미지, 영상 등을 만들어낼 수 있지만 음란물 제작이나 여자 연예인을 대상으로 한 성적 대상화에 악용되기도 한다.

일부 유저들은 생성형 AI를 선정적인 콘텐츠 생산에 쓰는 데 그치지 않고 수익화에 나서면서 거부감이 커지는 모습이다.

5일 유튜브 이용 결과 ‘AI’ 검색 시 최상단에 ‘AI 룩북’, ‘AI 19’, ‘AI 룩북 치마’ 등 키워드가 등장한다. 통상 룩북은 모델이나 사진작가가 다양한 옷을 보여주기 위한 영상이다.

생성형 AI를 악용하는 유저들은 선정적인 여성 영상을 제작해 유튜브에서 배포하고 있다. 승무원·경찰·아이돌 등 특정 직군의 성적 대상화를 통해 유입을 늘리고 있었다.

유튜브에 업로드된 AI 룩북 영상 중 가장 높은 조회수를 기록한 영상은 1861만회에 육박했다. AI 룩북을 주로 업로드하는 채널은 계속해서 등장한다. 특정 채널은 총 동영상이 100개 안팎이지만 누적 조회수가 1700만을 넘기도 했다.

선정적인 이미지를 수익화에 활용하는 모습도 포착됐다.

생성형 AI를 활용해 이미지·영상을 제작하는 사이트에선 유저가 제작한 콘텐츠를 사고팔 수 있도록 했다. 유저들은 여자 아이돌, 여자 배우의 얼굴을 딴 AI 이미지를 통해 구독자를 늘리고, 개인 사이트 링크를 남겨 홍보했다. 해당 사이트로 접속시 약 1만8000원 안팎에 여자 아이돌, 여자 배우의 얼굴을 딴 AI 이미지를 판매하는 창이 뜬다.

AI 이미지를 공유하는 한 플랫폼에 유통 중인 이미지. 신체 절단 등 고어한 키워드가 포함돼있지만 연령 제한이나 다운로드 제한은 없었다. 해당 이미지의 다운로드 수는 약 1만회에 육박한다. (사이트 화면 갈무리)

이외에도 ‘섹시한 복장’, ‘우발적 노출’ 등의 키워드를 포함한 선정적인 영상을 판매 중이다. 신체 절단 등 트라우마를 유발할 수 있는 콘텐츠도 연령 제한 없이 유통되고 있다.

유저들은 음지 커뮤니티에 모여 수익화 방법을 적극 공유하기도 했다. 일본의 창작 그림 커뮤니티 사이트 ‘픽시브(pixiv)’에 AI를 활용한 음란물을 하루 평균 10개 안팎으로 올리면 구독자를 하루에 1000명씩 확보할 수 있다는 식이다.

이렇게 확보한 구독자에게 구독료를 받는다.

법망과 플랫폼의 규제를 피하는 팁도 공유했다.

해당 음지 커뮤니티에서 한 유저는 “성인이 교복 코스프레한 거라고 우겨도 유튜브 규제를 받는다”며 “아동이나 미성년자, 교복은 건드리지 않는 선에서 콘텐츠를 올리라”고 조언했다.

다른 유저는 “AI가 그린 콘텐츠 자체가 지금 저작권이나 재산권 인정이 안되고 있다”며 “(특정 모델을 모티브로 해도) 딱히 문제는 없을 것”이라고 설명했다.

생성형 AI를 활용해 웹툰을 제작했다는 논란에 휩싸인 네이버웹툰 ‘신과함께 돌아온 기사왕님’의 댓글란. 소비자들은 AI가 웹툰에 활용되는 것이 위험하다고 지적하고 있다. (네이버웹툰 댓글란 갈무리)

폐혜가 이어지자 소비자들 사이에서 악용 사례를 경계해야 한다는 목소리가 높다. 인스타그램 등 개인 SNS에 업로드한 사진이 AI의 음란물 콘텐츠 제작 재료로 활용된 사례가 등장하며 거부감이 더 커졌다.

이 때문에 생성형 AI 창작물 반대 움직임이 감지된다. 지난달 27일 대만 인디게임 제작사 ‘레이아크’는 자사 게임이 AI를 사용한다는 논란에 팬들의 거센 항의를 받았다.

중국 텐센트가 배급한 퍼즐 게임 ‘백야극광’도 같은 논란에 팬들의 불매운동이 이어지기도 했다. 팬들의 불매운동이 이어지자 제작사는 AI를 사용하지 않겠다고 발표했다.

소비자뿐 아니라 창작자들도 AI의 부작용에 우려를 내놨다.

5월 미국 할리우드 작가가 소속된 미국작가협의회는 총파업에 나섰다. AI나 유사 기술을 사용해 생산된 자료의 사용을 규제해야 한다는 것이다.

일본 연예종사자협회 또한 AI가 일자리를 빼앗아갈 수 있다고 비판의 목소리를 냈다. 배우, 음악가 등으로 구성된 해당 협회에서는 AI가 콘텐츠를 생성할 때 어떤 데이터를 활용했는지 공개하고 원작자가 보상받을 수 있도록 해야 한다고 지적했다.