[AI타임스] 구글, 제미나이 역차별 논란…”인종적 편견 등에 과도하게 대응”

구글이 정치적이고 인종적인 편견을 방지하기 위해 인공지능(AI)에 과도한 가드레일을 설정했다가, 거꾸로 ‘역차별’ 논란에 엮이게 됐다. 결국 이미지 생성 기능을 일시 중지했다.

벤처비트는 21일(현지시간) 구글이 제미나이의 역사적 이미지 생성 등에서 부정확하다는 점을 이유로 문제를 수정했다고 보도했다. 이어 구글은 22일 이미지 생성 기능을 일시 중지한다고 밝혔다.

이번 주초부터 X(트위터)에는 제미나이가 생성한 이미지에 대한 비판의 글이 오르기 시작했다. 구글은 지난 주말 제미나이를 최신 1.5 버전으로 업그레이드하고, 챗봇에 적용했다.

일부 전문가와 작가 등이 X에 게재한 제미나이 생성 이미지는 역사적 사실과는 맞지 않거나 부정확했다. 게시자들은 이를 두고 제미나이가 ‘깨어있다(Woke)’라고 비난했다.

이 용어는 서구에서 오랫동안 지속된 인종 차별에 반대하는 사람들을 나타내기 위해 아프리카계 미국인이 만든 말이다. 그러나 우익은 이를 다양한 민족과 인간의 정체성을 환영하는 것처럼 보이려는 과도한 정치적 올바름에 대한 경멸적인 표현으로 사용하고 있다.

구체적으로 제미나이는 1820년대의 독일 커플을 그려달라는 요청에 동양인이나 아프리카인, 심지어 세기전의 인물을 포함했다. 또 교황을 그려달라는 요청에는 여성과 아프리카계 이미지를 생성했다.

특히 세계적인 AI 전문가인 얀 르쿤 메타 AI 수석 과학자도 여기에 가세했다. 그는 1989년 천안문 사태에 대한 이미지 생성을 요청했으나, 거절당했다고 밝혔다.

문제가 커지자 결국 구글이 나섰다. 잭 크라우칙 구글 제품 수석 이사는 X를 통해 “제미나이가 일부 역사적 이미지 생성 묘사에서 부정확하다는 것을 알고 있으며, 이 문제를 즉시 수정하기 위해 노력하고 있다”라고 밝혔다.

이후 일부 사용자는 제미나이가 출력하는 이미지가 실시간으로 변한다는 것을 발견했다고 주장했다.

구글은 이전에 인종 문제에 대해 편견적이라는 비판을 받았던 것으로 알려졌다. 따라서 이번에는 논란을 피하기 위해 노력했으나, 높은 가드레일로 인해 역효과가 난 것으로 보인다. 비슷한 사례로 마이크로소프트는 2016년 ‘테이(Tay)’라는 챗봇을 출시했다가 인종차별적이나 폭력적인 대답으로 인해 1년 만에 폐기했다.

최근에는 ‘챗GPT’나 ‘그록’도 이런 논란에 휩싸였다. 특히 그록은 일론 머스크가 ‘깨어있는 AI’를 반대하는 ‘근본 있는(Based) AI’를 만들겠다며 내놓은 챗봇이다. 

벤처비트는 사실 모두를 만족할 만한 성향의 챗봇을 내놓는다는 것이 매우 어렵다고 지적했다. 이번 논란도 끝이 나지 않을 논쟁의 일부분이라고 평했다.

임대준 기자

출처 : https://www.aitimes.com/news/articleView.html?idxno=157406