[네이트] AI 생성물 디지털 워터마크…눈에는 안 보인다

– 구글 딥마인드 ‘신스ID’ 베타 버전 출시
– 이미지 픽셀에 표식 삽입…위변조·삭제 어려워
– 딥페이크 등 부작용 막으려 기업들 기술개발

테크 기업들이 생성형 AI 시대를 맞아 생성물에 워터마크를 넣는 기술 개발에 속도를 내고 있다. 눈으로 구분하긴 쉽지 않지만 현재 주로 쓰이는 스탬프 형식과 달리 편집도 사실상 불가능하다는 설명이다.

알파벳의 AI 연구 자회사인 구글 딥마인드와 구글 클라우드는 최근 AI 생성 이미지를 식별하는 워터마킹 기술인 신스ID(SynthID) 베타 버전을 출시했다. 신스ID는 디지털 워터마크를 이미지 픽셀에 직접 삽입한다. 사람 눈으로는 이를 직접 감지할 수 없지만 디지털 기술을 통해선 어렵지 않게 감지가 가능하다.

이미지 속 구글 딥마인드의 워터마크 기술 신스ID가 적용된 부분과 적용되지 않은 부분. 두 부분의 차이를 눈으로 확인하기는 어렵다. (사진=구글 딥마인드)

생성형 AI 시대를 맞아 AI가 다양한 생성물을 만들어냄에 따라 인간이 만든 창작물과 구분하는 것은 사실상 어려워졌다. 이미지의 경우 딥페이크 이미지가 더욱 많아질 수 있다는 우려가 제기됐다. 이때문에 잘못된 정보의 확산을 막고 정확한 창작자를 확인하기 위해 워터마크 삽입 필요성이 제기돼 왔다.

테크기업들이 과거 스탬프 형식과는 다른 워터마크를 AI 생성물에 붙이는 것은 변조 가능성이 미학적 측면이 고려된 것이다. 스탬프 형식의 경우 해당 부분만 삭제하거나 편집할 경우 워터마크 확인이 사실상 불가능하고, 미학적으로도 원 생성물을 훼손할 수 있다.

앞서 조 바이든 미국 대통령은 지난 5월 구글·아마존·메타·마이크로소프트·오픈AI 등 빅테크 기업 대표들과 회동을 진행했고, 두달 후인 7월 이들 기업들이 AI 생성 콘텐츠에 워터마크를 넣기로 했다고 합의했다고 밝혔다.

구글 신스ID는 픽셀에 워터마크가 주입된 형식이기에 다양한 이미지 변환에도 워터마크가 인식 가능한 상태로 남아있게 된다. 우선 이미지에 저장된 ‘만든 사람’, ‘시기’ 등의 메타데이터를 확인해 변경이 있었는지 살펴보고 이후 메타데이터가 변경이나 삭제된 경우에도 픽셀을 통해 감지를 하는 방식이다. 구글은 신스ID 모델을 다양한 구글 제품에 접목하고, 다른 기업에도 제공할 예정이다.

다른 빅테크들도 관련 기술 개발에 뛰어든 가운데, 국내 기업 중에서도 네이버가 디지털 워터마크 삽입 기술을 개발 중이다. 네이버는 AI가 생성한 글에 워터마크를 넣는 방법을 연구하고 있다. 관련 기술이 접목된 경우 글의 단어 조합 분석을 통해 AI 생성 여부를 판별할 수 있다는 것이 네이버 측의 설명이다.

한광범 기자

출처 : https://news.nate.com/view/20230901n15551