[블로터] 페북은 왜 ‘이건’ 삭제하고 ‘저건’ 남겨둘까

‘이익을 위한 증오를 멈춰라(#StopHateForProfit).’ 지난 6월, 스타벅스부터 코카콜라, 버라이즌, HP 등을 비롯한 100곳 이상의 기업이 페이스북 ‘광고 보이콧’을 선언했다. 페이스북이 도널드 트럼프 대통령의 문제적 발언(‘When the looting starts, the shooting starts·약탈은 총성을 부른다’)들을 방치하고 있다는 비판이 거세진 데 따른 대응이었다. 마크 저커버그 페이스북 최고경영자(CEO)는 페이스북이 검열의 주체가 돼서는 안 된다는 입장을 고수했지만, 불매운동에 동참하는 광고주들이 늘어나자 결국 백기를 들었다. 증오·폭력 선동을 담은 게시물은 삭제 조치하겠다는 방침을 밝힌 것이다.

페이스북이 게시물을 ‘분류’하는 기준에 대한 지적은 이전부터 세계 각국에서 끊임없이 제기돼 왔다. (※참고기사 <페이스북이 ‘김치녀’와 ‘한남충’을 달리 보는 이유>, 블로터, 2019.11.29) 크고 작은 논란을 거치면서 페이스북의 정책도 매년 달라졌다. 12일 오전 페이스북은 국내 취재진을 대상으로 ‘페이스북 커뮤니티 규정 온라인 간담회’를 열고, 자사의 업데이트된 정책에 대해 설명했다.

페북 규정, 뭐가 달라졌나

페이스북 커뮤니티 규정은 ▲폭력 및 범죄 행위 ▲안전 ▲불쾌한 콘텐츠 ▲무결성 및 진실성 ▲지적재산권 등 5가지 영역 총 26개 항목에 따라 정해진다. 개정은 수시로 이루어진다. 순서는 다음과 같다. 각 규정별 우선순위를 매기고 각 팀에 규정을 개정해야 하는 의도를 전달한다. 각국의 정책·엔지니어링·개인정보보호·인권담당 팀 등이 참여해 규정을 손질한다. 규제기관이나 학계, 시민사회 등 외부 전문가 그룹과의 논의도 병행한다. 이 같은 작업은 3개월여 동안 진행된다.

유동연 페이스북 아시아태평양(APAC) 콘텐츠 정책팀 매니저는 “정책팀의 지침은 ‘규정은 돌에 새겨진 게 아니’라는 거다. 정치·사회적 변화와 함께 진화해야 한다는 것”이라며 “커뮤니티에서 새로운 트렌드가 나타나고 이용자들이 불편을 느끼면 (페이스북이) 따라가지 못하고 있다는 것이기 때문에 규정 개선에 나선다”고 말했다.

이어 유 매니저는 최근 개정된 항목인 ▲자기 몸 긍정주의(Body positivity) 반영 ▲혐오발언 제재 강화 ▲폭력적 이미지 구분 ▲인간 착취성 게시물 삭제 등 소개했다.

자기 몸 긍정주의는 사회가 정한 미적 기준과 관계없이 자신의 몸매를 그대로 긍정하자는 운동이다. 신체적 능력, 크기, 성별, 인종, 외모와 관계없이 모든 신체를 동등하게 존중하자는 운동이기도 하다. 기존 페이스북은 신체 노출 수위가 높을 경우 성적 표현으로 간주해 게시물을 삭제했지만, 현재는 자신의 신체를 긍정하는 의미로 이를 올리는 것은 허용된다. 유 매니저는 “성적 목적이 성적인 목적이 아니라 자기 몸 긍정주의를 위해 올린 게시글에 관해서는 표현의 자유를 넓히는 게 맞다고 봐서 규정을 바꿨다”고 말했다.

미성년자에게 경찰의 무력 진압이 등장하는 사진·영상에 대한 접근을 허용하기로 한 데 대해서는 “작년부터 올해 내내 홍콩·미국 등지에서 시위가 잇따르면서, 사회적 경각심을 일깨우기 위해 미리 시청 주의를 요하는 자막을 넣되 미성년자도 영상에 접근할 수 있도록 정책을 변경했다”고 말했다.

페이스북은 이번 미국 대선에서도 이전보다 적극적으로 제재했다는 평가를 받았다. 회사측은 “올해 문제가 됐던 트럼프 대통령의 발언을 비롯한 일련의 비극적인 사건은 페이스북이 규정을 정비하고 더 나은 방향으로 나아가는 데 큰 역할을 했다”며 “(미국 대선은) 사활을 걸었다고 할 정도로 많은 조치를 이행했다. 가령 트럼프가 당선됐다는 게시글이 나오면 바이든이 우세하다는 주요 언론 등의 기사를 표시해줬다. 훨씬 엄격하고 정교한 방법으로 정확한 정보 전달을 위해 노력했다”고 말했다. 또 “앞으로 한국에서 치러질 선거에서도 똑같은 수준의 대응을 하도록 노력할 것”이라고 강조했다.

‘거름망’…사람의 일, 로봇의 일

페이스북은 자체 정책에 따른 혐오발언도 골라내고 있다. ▲인종 ▲민족 ▲국적 ▲종교 ▲성적지향 ▲카스트(인도) ▲사회학적 성별 ▲생물학적 성별 ▲성적정체성 ▲질병 및 신체적 장애 등을 이유로 타인을 공격하면 제재 조치를 한다는 게 회사측 지침이다. 가령 “국수주의는 정신병”이라는 말은 사상에 대한 공격이므로 허용되나, ‘쪽바리’라는 말은 국적과 민족에 대한 발언이므로 제재 대상이다. “국수주의는 개인이 선택할 수 있어요. 본인의 신념이니까요. 하지만 일본 사람으로 태어나는 건 선택할 수 없죠. 보호받아야 하는 속성은 이 사람의 선택 가능 여부에 달려 있어요.”(박상현 페이스북 커뮤니케이션팀 이사)

정해진 규정대로 콘텐츠를 검토하는 인력은 올해 2017년 대비 3배 수준인 3만5000명으로 늘어났다. 이 가운데 1만5000명은 이용자 신고를 365일 24시간 동안 관리하고 있다. 한국 콘텐츠 리뷰어 규모는 비공개다. 유 매니저는 “한국 사용자들을 지원하는 콘텐츠 리뷰어들은 한국어뿐 아니라 한국의 정치, 사회적 맥락을 잘 아는 사람들”이라며 “지속적 훈련과 더불어 콘텐츠 리뷰를 하면 해당 결정에 대해 감사를 진행한다. 감사 결과를 다시 감사하고 있다”고 말했다.

분류 작업은 인공지능(AI) 기술의 도움도 받고 있다. 올해는 코로나19 사태로 지난 3월 콘텐츠 검토 인력들이 일시적인 자택격리에 들어가면서, 기술 의존도가 더욱 높아졌다. 페이스북에 따르면 AI의 혐오발언에 대한 사전 감지율은 2020년 1분기 89%에서 2분기 95%로 6%p가 증가했다. 조치를 취한 콘텐츠 양 또한 960만건에서 2250만건으로 늘었다. 유 매니저는 “AI가 진화하면서 지난 2분기 15억개 가짜 계정과 14억개 스팸 게시물을 삭제했다. 아동・성인 나체 이미지 및 성적 행위, 폭력적이고 자극적인 콘텐츠, 테러리스트 선전, 마약 판매, 자살 및 자해, 무기 판매 등에 대한 AI의 사전조치율은 100%에 가깝다”고 말했다.

그러나 따돌림·괴롭힘의 영역은 예외다. 이들 콘텐츠의 사전조치율은 13.3%로 타 항목 대비 저조하게 나타났다. ‘맥락’이 중요해, 여전히 사람의 판단이 필요하기 때문이다. 유 매니저는 “AI는 상황과 맥락에 대한 이해가 아직 부족하다. 친구끼리의 장난과 괴롭히는 말을 구분하지 못한다”며 “예를 들어 ‘내 동생의 빛나는 몸매, 살 많이 빠졌네’라며 사진과 함께 게시물을 올렸을 때 동생이 신고하면 (게시물이) 내려가게 돼 있다”고 말했다. 페이스북은 당사자가 ‘괴롭힘’으로 받아들이게 되는 상황과 맥락을 중시하고 있다고 강조했다. 그는 “상황의 맥락과 의도를 AI에게 기대하는 것은 아직 무리라서 AI를 사용하지 않고 있다”고 말했다.

출처 : http://www.bloter.net/archives/474556