[경향신문] 내 사진 넣었는데 노출 이미지 생성···소다·스노우앱 논란

A씨 증명사진 원본(왼쪽)과 소다 앱 ‘AI 배경 확장’ 결과물. A씨 제공

9일 경향신문 취재를 종합하면 소다 앱 유료 이용자 A씨는 최근 앱의 ‘인공지능(AI) 배경 확장’ 기능을 이용해 자신의 증명사진을 편집하다 황당한 일을 겪었다. AI 배경 확장은 AI 기술을 이용해 이미지를 테두리 너머로 확대하면 배경을 자연스럽게 채워주는 기능이다.

A씨는 어깨까지 나온 기존 증명사진에서 상반신을 좀 더 확장하기 위해 해당 기능을 썼다. 그런데 앱이 내놓은 결과물은 가슴 부분 일부를 드러낸 채 가슴을 양손으로 움켜쥐고 있는 듯한 이미지였다.

A씨는 “앱을 이용하다 성적 수치심을 받을 줄은 몰랐다”며 “더 이상의 피해가 발생하지 않도록 문제를 철저히 개선해야 한다”고 말했다.

B씨가 스노우 앱 ‘AI 헤어샵’ 기능을 이용했을 당시 나온 결과물. B씨 제공

스노우 관계자는 “앱을 통해 선정적 이미지가 생성된 건 AI 이미지 변환 모델이 지닌 한계 때문”이라며 “사용자에게 전달되기 이전 AI 프롬프트 필터를 통해 불완전한 이미지를 제거하고 있지만 이번 사례에서 완벽하게 작동하지 않았다”고 말했다.

스노우 측은 이미 공개된 AI 이미지 변환 모델을 사용하고 있고, 사용자 데이터는 AI 학습이나 훈련에 추가로 이용되지 않는다고 전했다. 결과물은 이미지 제공자만 확인할 수 있다고 했다.

스노우 관계자는 “유사한 상황이 발생하지 않도록 필터를 더욱 강화하는 등 서비스 고도화를 위해 노력하겠다”며 “(필터 강화 버전의) 긴급 배포를 준비 중”이라고 말했다.