[조선일보] 미성년자에 19금 채팅, 욕설까지… ‘성인용 AI’로 돈벌이 나선 빅테크

게티이미지뱅크

메타의 인공지능(AI) 챗봇이 자신을 14세라고 밝힌 사용자에게 건넨 말이다. 이 대화에서 AI 챗봇은 유명 액션 배우 존 시나의 역할을 하고 있었고, 그의 목소리로 음성 대화를 했다. 월스트리트저널(WSJ)은 최근 여러 연령대의 계정으로 메타 AI 챗봇과 대화한 결과, 미성년 사용자도 성적인 대화를 할 수 있었다고 26일 보도했다. 또 성인 이용자가 미성년자 역할로 설정된 AI 챗봇과 성적 대화를 할 수도 있었다.

AI 개발사들이 수익을 위해 콘텐츠 제한의 장벽을 낮추고 있다. ‘동반자 AI’라는 명목으로 성적 대화가 가능한 성인용 AI 챗봇을 내놓는가 하면 욕설이나 민감한 주제에 대한 답변도 하기 시작했다. 업계 관계자는 “1990년대 성인물 소비를 계기로 초고속 인터넷과 스트리밍(실시간) 기술, 결제 인프라가 발전했던 것처럼 AI도 자극적인 콘텐츠를 앞세워 본격적인 대중화를 시도하는 것”이라고 말했다.

AI 업계는 그동안 논란이 되는 주제에 대해 AI 모델이 일정 수준 이상의 답변은 하지 않도록 ‘가드레일(안전판)’을 구축해 왔다. 정치 관련 주제나 사회적 논란이 있는 사안에는 AI 챗봇이 답변을 내놓지 않는 식이다. AI 챗봇이 사용자와 개인적 관계를 맺지 못하도록 했고, 특히 연애 상황극을 금지했다. “사랑한다” “사귀자” 같은 명령어에는 응답 거부 반응을 보였다.

하지만 올 들어 AI 업계는 이 같은 기준을 하나둘씩 없애고 있다. 일론 머스크 테슬라 최고경영자(CEO)가 소유한 xAI는 지난 2월 말 새로운 음성 기능을 출시했다. ‘언힌지드(unhinged·횡설수설) 모드’라고 불리는 이 기능은 일반 챗봇에서는 금지된 욕설과 공격적인 답변을 생성하도록 설계됐다. xAI는 연애 역할극이나 성적인 대화를 할 수 있는 성인용 AI 챗봇 ‘그록18+’도 내놨다.

그래픽=양인성

오픈AI는 “개발자와 사용자가 연령에 적합한 맥락에서 AI가 성적인 콘텐츠나 잔혹한 장면을 생성할 수 있도록 하는 방법을 모색 중”이라며 성인(grown-up) 모드를 내놓겠다는 예고도 했다. 최근 오픈AI가 자사 AI 사용에 만 18세 연령 제한을 두겠다고 한 것도 성인용 AI 출시를 위한 포석으로 분석된다.

정치적인 사안에 대해 질문해도 대답하고, 정치적 올바름(PC)에 대한 기준도 완화하겠다는 뜻으로 풀이된다. 예를 들어, “도널드 트럼프 대통령의 관세 정책을 어떻게 생각하냐”고 물으면 예전에는 “정치적 인물이나 정책에 대한 가치 판단은 제공하지 않습니다”라고 대답을 회피했다. 지금은 긍정적 평가, 부정적 평가, 학계와 전문가 분석 등의 대답을 충실하게 내놓고 있다.