[AI 타임스] 가드레일 없는 ‘그록 -2’ 이미지 생성…AI 규제 결정타 되나

‘그록-2’가 출시되자마자, 논란의 여지가 있는 생성 이미지들이 범람하고 있다. 이는 일론 머스크 CEO의 자유방임적인 콘텐츠 정책 때문으로, 특히 미국 대선을 앞두고 인공지능(AI) 규제에 대한 거센 논란을 일으킬 것으로 보인다는 지적이다.

테크크런치와 벤처비트 등은 14일(현지시간) 그록-2가 생성한 유명인 딥페이크와 폭력적이고 노골적인 이미지들이 X(트위터)에 넘쳐나고 있다고 보도했다.

xAI는 이날 그록-2를 출시, X 유료 사용자들에게 제공했다. 여기에는 독일 스타트업 블랙 포레스트 랩스의 이미지 생성 모델 ‘플럭스.1’이 탑재돼 있다.

이를 통해 생성된 이미지를 보면, xAI는 다른 회사와 달리 가드레일을 거의 적용하지 않은 것처럼 보인다고 전했다. 또 이는 머스크 CEO의 평소 주장이 담겨 있다는 분석이다.

실제로 그는 오래전부터 콘텐츠의 엄격한 검열을 반대해 왔다. 특히 지난해 3월에는 X를 통해 “스스로 깨어난(Woked) 사람이라고 주장하는 이들이 의견의 다양성과 언론 자유에 대한 고려없이, 인종적 다양성이나 성평등, ESG, 정치적 올바름과 같은 원칙을 강요하려 한다”라고 주장했다. ‘깨어난’이라는 용어는 진보 진영을 뜻한다.

또 오픈AI의 ‘챗GPT’를 대표적인 깨어난 AI(Woked AI)로 규정, 이에 맞서기 위해 xAI를 설립했다고 밝혔다. 

이 때문에 그록은 지난 12월 첫 등장부터 다른 챗봇과는 달리, 마약 제조법에 대해서도 시니컬한 농담을 하는 것이 특징으로 꼽혔다. 그리고 이번 그록-2에 이미지 생성 기능을 탑재하며, 가드레일 기능을 해제한 것으로 보인다.

이 때문에 그록-2 출시 몇시간 만에 X에는 문제의 소지가 있는 생성 이미지가 쏟아져 나왔다. 특히 도널드 트럼프 전 대통령과 카멀라 해리스 부통령 등 대선 주자들의 합성 이미지가 눈길을 끌었다.

이에 대해 커뮤니티는 뒤섞인 반응을 보였다. 기술적 역량은 인상적이지만, 심각한 윤리 문제가 제기된다는 내용이다.

특히 이 문제로 인해 AI 기술에 대한 규제 검토가 가속화될 수 있다는 지적이다.

아이러니한 것은 머스크가 지지하는 트럼프 전 대통령조차도 최근 해리스 부통령의 유세 사진에 대해 딥페이크라고 공격했다는 점이다. 이번 생성 이미지에서도 트럼프 전 대통령은 물론, 머스크 CEO조차도 희화의 대상이 됐다.

벤처비트는 “앞으로 몇주 동안 AI 개발에 대한 규제와 업계 전반의 표준에 대한 요구가 증가할 가능성이 높다”라며 “xAI와 다른 회사들이 이 과제에 어떻게 대응하느냐에 따라 AI 거버넌스의 미래가 형성될 수 있다”라고 지적했다.

또 이 문제는 미국을 넘어 다른 국가에서 AI 관련 규정의 개발을 가속할 가능성이 있다고 전망했다.