[조선일보] 로블록스 “얼굴 기반 나이 추정’ 시스템 도입…AI 부작용 방지책 내놓는 기업들

사후약방문식 대책
실효성 없다는 지적도

5일(현지 시각) 미 산호세 멕에너리 컨벤션 센터에서 열린 로블록스 개발자 대회(RDC2025) 현장에서 데이비드 바주키 CEO가 기조연설하고 있다./강다은 기자

지난 5일(현지 시각) 오전 미 산호세 멕에너리 컨벤션 센터에서 열린 로블록스 개발자 대회(RDC2025) 현장. 기조연설에서 데이비드 바주키 CEO가 가장 먼저 언급한 주제는 새로운 기술도, 광고도, 크리에이터의 수익도 아니었다. 다름 아닌 ‘안전한 플레이’였다. 그는 “우리는 안전하고 신뢰 가능한 플랫폼을 만들 것”이라며 “사용자들이 나이에 맞는 경험을 로블록스에서 할 수 있도록 올해 100가지가 넘는 안전 관련 업데이트를 거쳤다”고 했다.

로블록스는 3차원 가상현실 게임 플랫폼으로, 이용자들은 이 플랫폼 내에서 소통하고, 게임을 하고 또 돈을 벌 수도 있다. 글로벌 이용자 절반 이상이 13세 이하 미성년자다. 이 때문에 로블록스는 안전한 플랫폼을 만드는 데에 투자를 지속하는 것이다.

최근 테크기업들이 어린이와 청소년 보호를 위한 ‘안전장치’를 강화하고 있다. AI기술이 대중화되고, 미성년자들이 많이 이용하는 플랫폼에도 AI가 속속 도입되면서 오용과 부작용이 커지기 때문이다. 하지만 일각에서는 기업들이 마련하는 안전장치가 ‘사후약방문’식 대책이라는 비판이 나온다. 청소년들이 충분히 우회 가능한 대책이 많다는 지적도 이어지고 있다.

◇로블록스, 안전장치 강화

최근 AI가 발달하고, 청소년들이 이 같은 기술이 적용된 플랫폼에 별다른 제약 없이 접근하면서 여러 사건·사고가 생기고 있다. 로블록스 같은 3D 가상현실 플랫폼을 통해 ‘아동 성착취’ 범죄 피해자가 되거나, 청소년이 AI챗봇에게 극단선택 방법을 물은 뒤 이를 그대로 실행하는 일도 있었다.

테크 기업들은 아동과 청소년을 위한 안전장치를 마련 중이다. 로블록스는 ‘얼굴 기반 나이 추정’ 시스템을 도입했다. 이용자가 직접 자신의 나이를 입력하면 성인이 미성년자인 척하거나, 미성년자가 성인처럼 나이를 속일 수 있다 보니 이제 사진이나 국가기관이 인증한 신분증 자료를 모두 확인하겠다는 것이다. 이 외에도 ‘성인과 아동 간 대화’는 서로 아는 사이라는 것이 확인돼야만 가능하게 하는 등 다양한 안전장치를 새로 마련했다.

구글은 제미나이 U13에 자신이 친구가 아니라 컴퓨터라는 것을 분명히 알려주고, 낭만적이거나 성적인 상황의 롤플레잉을 거부하는 등의 기능을 도입했다. 틱톡도 자녀가 틱톡에서 콘텐츠를 게시하거나 유해 콘텐츠를 신고할 경우 보호자에게 실시간으로 알리는 기능을 추가한다.