[한국일보] ‘가짜뉴스’ ‘혐오’ 덕지덕지…페이스북의 콘텐츠 솎아내기

페이스북이 콘텐츠 노출과 관련된 정책 재정비에 안간힘이다. 사회관계망서비스(SNS) 시대를 이끈 최강자이지만 각종 ‘가짜뉴스’에 지난 3월에는 ‘뉴질랜드 총기난사 생중계’까지 더 이상 페이스북이 콘텐츠를 제대로 감당하지 못하고 있다는 비판이 터져 나오는 상황이다. 곳곳에서 사용자 이탈 조짐까지 감지되고 있어 페이스북은 ‘당신이 원하는 콘텐츠’만 솎아내는 작업에 착수했다.

25일 페이스북의 운영 기준인 ‘커뮤니티 규정’의 집행 현황을 담은 보고서에 따르면 페이스북이 제재를 가하는 콘텐츠 카테고리가 △성인 나체 이미지 및 성적 행위 △따돌림과 괴롭힘 △아동 나체 이미지 및 아동에 대한 성착취 △가짜 계정 △혐오 발언 △스팸 △테러리스트 선전 △폭력적이고 자극적인 콘텐츠 8개에서 ‘규제 상품’이 추가돼 총 9개로 늘었다. 규제 상품은 무기와 마약 등 규제 상품의 유통에 영향을 미치는 콘텐츠를 말한다.

올 1분기 규정 집행 현황에서는 규정을 위반한 콘텐츠가 페이스북의 필터링에 걸리지 못하고 노출된 ‘유포된 비율’, 페이스북의 콘텐츠 삭제나 경고, 계정 삭제 등 ‘조치를 취한 콘텐츠 수’, 누군가의 신고 전에 페이스북 시스템이 먼저 발견한 콘텐츠 비율을 의미하는 ‘사전조치율’ 등 3가지 부분에서 유의미한 변화를 보였다.

◇‘가짜 계정’ 22억개 삭제…AI 적발률 95%

우선 유포된 비율은 0.03~0.25%로 조사됐다. 이용자가 페이스북을 1만번 접속한다고 가정할 경우 성인 나체 이미지나 성적 행위 관련 콘텐츠를 보게 되는 횟수는 11~14건, 폭력적이고 자극적 콘텐츠는 25건, 테러리스트 선전과 아동 나체 이미지 및 아동에 대한 성착취와 관련된 콘텐츠는 3건 미만으로 나타났다. 

페이스북이 조치를 취한 수는 급격히 늘었다. 삭제한 가짜 계정 수가 2018년 4분기 12억개에서 올해 1분기 21억9,000개로 집계됐다. 최근 들어 한 번에 여러 개의 가짜 계정을 생성하기 위한 자동 공격이 실행돼 조치 건수가 증가했으며, 삭제된 계정 대부분은 1분 이내에 조치가 취해졌다는 게 페이스북의 설명이다. 

다른 이용자가 신고하기 전에 인공지능(AI)이 규정 위반 콘텐츠를 적발해 내는 비중은 95%로 조사됐다. 혐오발언의 경우 1년 전 AI의 적발률이 24%였던 반면, 올해는 65%로 늘었다. 올해 1분기 AI는 400만건의 혐오발언 게시물을 삭제했다.

◇마약 은어 배운 AI…90만건 처리

이번에 새로 추가된 무기와 마약 등 규제상품을 걸러내기 위해 페이스북은 기존에 신고 등으로 제거된 관련 콘텐츠와 페이지, 그룹, 해시태그, 계정 등에 대한 조사를 진행했다. 마약판매와 관련된 수백 개의 은어, 비속어 등을 필터링 알고리즘에 학습시켰다. 실생활에서 사람들이 마약을 가리킬 때 쓰는 새로운 표현들도 AI에 가르쳤다.

그 결과 1분기 페이스북은 약 90만건의 마약판매와 관련된 게시물을 처리했으며, 이 중 82.2%가 AI로 인한 선제 조치가 이뤄졌다. 같은 기간 무기 판매 게시물은 약 67만건 처리됐고 AI의 선제 조치 비중은 69.9%였다.

◇“이용자에게 통제권을 주는 게 목적”

페이스북이 AI 등 첨단 기술을 도입해 적합하지 않은 콘텐츠를 제재하는 이유는 관계망을 넓히고 유용한 정보를 주고받는 공간인 SNS에서 핵심이 바로 콘텐츠 품질이기 때문이다. 이용자가 접속했을 때 노출되는 콘텐츠를 개개인에게 유용한 것들로 선별해야 한다. 이를 위해선 폭발적으로 늘어나는 가입자들의 수많은 게시물을 정교하게 분류해 내는 알고리즘이 필요하다.

페이스북은 게시물이 표시되는 공간 ‘뉴스피드’를 이용자 입맛에 맞게 관리할 수 있는 시스템을 제공하기로 했다. 게시물 오른쪽 상단에 있는 ‘더보기’ 메뉴를 누르면 ‘이 게시물이 표시되는 이유는?’이란 기능이 표시된다. 

클릭하면 나의 어떤 활동들에 의해 이 콘텐츠가 보이는지 확인할 수 있다. 내 친구, 내가 가입한 그룹 또는 내가 팔로우한 페이지 중 어디에서 올라온 콘텐츠인지를 포함해 해당 콘텐츠를 올린 주체와 나의 소통 빈도, 영상ㆍ사진ㆍ링크와 같은 특정 유형의 게시물에 대한 나의 반응 빈도 등도 파악할 수 있다. 마음에 들 경우 ‘먼저 보기’, 반대의 경우 ‘팔로위 취소’ 등 옵션을 선택할 수 있다. 

일반 게시물이 나에게 보여지는 원리를 전체 이용자에게 직접 공개하는 건 페이스북이 처음이다. 이전에는 콘텐츠 소비 이력을 기반으로 페이스북이 알아서 콘텐츠 노출 순서를 조정하던 것에서 이용자가 직접 개입할 수 있는 비중을 늘린 셈이다.

림야 세두라만 페이스북 뉴스피드 랭킹 담당 프로덕트 매니저는 “뉴스피드의 목적은 사람들에게 그들과 관련이 높은 게시물을 보여 주는 것이다”며 “이용자가 통제할 수 없는 뉴스피드 알고리즘은 투명성을 갖출 수 없다고 판단했다”고 말했다. 그는 “이용자에게 더욱 풍부한 맥락과 통제권을 부여하기 위한 페이스북의 투자와 노력의 일환으로 앞으로도 기능을 개선해 나갈 예정”이라고 밝혔다.

출처 : https://news.naver.com/main/read.nhn?mode=LSD&mid=shm&sid1=105&oid=469&aid=0000391448