[BBC] Google Pixel의 얼굴 변경 사진 도구는 AI 조작 논쟁을 촉발시킵니다.

카메라는 절대 거짓말을 하지 않습니다. 물론 그렇습니다. 날이 갈수록 더 자주 발생하는 것 같습니다.

스마트폰 시대에는 색상 강화부터 조명 수준 조정까지 사진 품질을 높이기 위해 즉석에서 디지털 편집을 하는 것이 일반화되었습니다.

이제 인공 지능(AI)을 기반으로 하는 새로운 유형의 스마트폰 도구가 현실 사진의 의미에 대한 논쟁을 가중시키고 있습니다.

지난주에 출시된 Google의 최신 스마트폰인 Pixel 8과 Pixel 8 Pro는 다른 회사의 기기보다 한 단계 더 발전했습니다. 그들은 AI를 사용하여 사진 속 사람들의 표정을 바꾸는 데 도움을 주고 있습니다.

이것은 우리 모두가 경험한 적이 있는 일입니다. 단체 사진에서 한 사람이 카메라에서 시선을 떼거나 미소를 짓지 못하는 경우입니다. Google 휴대폰은 이제 사진을 통해 과거의 표정을 혼합하고 일치시킬 수 있으며, 기계 학습을 사용하여 다른 사진의 미소를 사진에 넣을 수 있습니다. 구글은 이를 베스트 테이크(Best Take)라고 부릅니다.

 또한 이 장치를 사용하면 사진에서 사람부터 건물까지 원치 않는 요소를 지우고 이동하고 크기를 조정할 수 있으며 Magic Editor라는 기능을 사용하여 남겨진 공간을 “채울” 수 있습니다. 이는 딥 러닝이라고 알려진 기술을 사용하며, 수백만 장의 다른 사진에서 수집한 지식을 사용하여 볼 수 있는 주변 픽셀을 분석하여 어떤 텍스처가 공백을 채워야 하는지 계산하는 인공 지능 알고리즘을 효과적으로 사용합니다.

기기에서 촬영한 사진일 필요는 없습니다. Pixel 8 Pro를 사용하면 Google 포토 라이브러리의 모든 사진에 Magic Editor 또는 Best Take를 적용할 수 있습니다.

일부 관찰자들에게는 이것이 우리가 사진을 찍는 방법에 대한 새로운 질문을 제기합니다.

Google의 새로운 AI 기술은 기술 평론가와 리뷰어에 의해 잠재적으로 “엉뚱” (The Verge), “소름끼친다” (Tech Radar)고 “온라인 콘텐츠에 대한 (이미 취약한) 사람들의 신뢰에 심각한 위협을 가할” 가능성이 있는 것으로 다양하게 설명되었습니다. (씨넷).

전문 사진작가이자 사우스 웨일즈 대학교 저널리즘 수석 강사인 Andrew Pearsall은 AI 조작이 위험하다는 데 동의했습니다.

“심지어 미학적 이유에서라도 한 번의 간단한 조작으로 인해 우리는 어두운 길로 빠질 수 있습니다.”라고 그는 말했습니다.

그는 전문적인 맥락에서 AI를 사용하는 사람들에게는 위험이 더 크지만 모든 사람이 고려해야 할 의미가 있다고 말했습니다.

“‘언제 선을 넘나?’를 정말 조심해야 해요.

“이제 휴대폰에서 사진을 찍고 즉시 삭제할 수 있다는 것은 상당히 걱정스럽습니다. 우리는 일종의 가짜 세계의 영역으로 들어가고 있는 것 같습니다.”

구글의 스마트폰 카메라 시스템 개발팀을 이끌고 있는 아이작 레이놀즈는 BBC와의 인터뷰에서 구글이 소비자 기술에 대한 윤리적 고려를 진지하게 고려하고 있다고 말했다.

그는 Best Take와 같은 기능이 아무것도 “가짜”가 아니라는 점을 재빨리 지적했습니다.

카메라 품질과 소프트웨어는 삼성, Apple 및 기타 업체와 경쟁하는 회사의 핵심이며 이러한 AI 기능은 독특한 판매 포인트로 간주됩니다.

그리고 기술에 대한 우려를 제기한 리뷰어들은 모두 카메라 시스템의 사진 품질을 칭찬했습니다.

Reynolds는 “드디어 모든 사람이 원하는 대로 사진을 찍을 수 있게 되었습니다. 이는 스마트폰 카메라나 그 어떤 카메라에서도 할 수 없었던 일입니다.”라고 Reynolds는 말했습니다.

“(촬영한 사진에) 그 사람이 웃는 버전이 있으면 보여주겠지만, 웃는 버전이 없으면 네, 그걸 볼 수 없을 거예요.”라고 그는 설명했습니다. .

레이놀즈 씨에게 있어서 최종 이미지는 “순간의 표현”이 됩니다. 즉, 그 특정 순간이 일어나지 않았을 수도 있지만, 여러 번의 실제 순간을 바탕으로 만들어낸, 일어나길 바랐던 사진인 것입니다.

케임브리지 대학의 그래픽 및 디스플레이 전문가인 라팔 만티크(Rafal Mantiuk) 교수는 스마트폰에 AI를 사용한다고 해서 사진을 실제처럼 보이게 만드는 것이 아니라는 점을 기억하는 것이 중요하다고 말했습니다.

“사람들은 현실을 포착하고 싶어하지 않습니다.”라고 그는 말했습니다. “그들은 아름다운 이미지를 포착하고 싶어합니다. 스마트폰의 전체 이미지 처리 파이프라인은 실제 이미지가 아닌 보기 좋은 이미지를 생성하기 위한 것입니다.”

스마트폰의 물리적 한계는 사진에 존재하지 않는 정보를 “채우기” 위해 기계 학습에 의존한다는 것을 의미합니다.

이는 확대/축소를 개선하고, 저조도 사진을 개선하는 데 도움이 되며, Google의 Magic Editor 기능의 경우 사진에 전혀 없었던 요소를 추가하거나 찡그린 얼굴을 미소로 바꾸는 등 다른 사진의 요소를 교체하는 데 도움이 됩니다.

사진을 조작하는 것은 새로운 것이 아닙니다. 이는 예술 형식 자체만큼 오래되었습니다. 하지만 인공지능 덕분에 현실을 강화하는 것이 이보다 더 쉬웠던 적은 없었습니다.

올해 초 삼성은 스마트폰으로 찍은 달 사진의 품질을 향상시키기 위해 딥 러닝 알고리즘을 사용한 방식에 대해 비판을 받았습니다 . 테스트 결과 처음에 찍은 이미지가 얼마나 좋지 않은지는 중요하지 않고 항상 사용 가능한 이미지를 제공한다는 사실이 밝혀졌습니다.

즉, 귀하의 달 사진은 반드시 귀하가 보고 있는 달의 사진이 아니었습니다.

회사 측은 “진짜 달을 촬영하는 행위와 달의 이미지 사이에서 발생할 수 있는 잠재적인 혼란을 줄이기 위해 노력하고 있다”며 이러한 비판을 인정했다.

레이놀즈는 Google의 새로운 기술에 대해 회사가 AI가 사용될 때 플래그를 지정하기 위해 업계 표준을 사용하여 사진에 메타데이터(이미지의 디지털 발자국)를 추가한다고 말합니다.

“이것은 우리가 내부적으로 이야기하는 질문입니다. 그리고 우리는 오랫동안 이야기를 나눴습니다. 왜냐하면 우리는 수년간 이러한 일을 해왔기 때문입니다. 이것은 대화이고 우리는 사용자의 말을 듣습니다.”라고 그는 말합니다.

Google은 사용자가 동의할 것이라고 분명히 확신합니다. 새 휴대폰의 AI 기능은 광고 캠페인의 핵심입니다.

그렇다면 이미지 조작과 관련하여 Google이 넘지 않을 선이 있습니까?

레이놀즈 씨는 인공 지능 사용에 대한 논쟁이 단순히 모래 위의 선을 가리키며 너무 멀었다고 말하기에는 너무 미묘하다고 말했습니다.

“기능을 구축하는 데 더 깊이 들어가면 라인이 기능별 매우 까다로운 결정이 되는 것을 지나치게 단순화한 것이라는 사실을 깨닫기 시작합니다.”라고 그는 말합니다.

이러한 신기술이 무엇이 현실이고 무엇이 아닌지에 대한 윤리적 고려를 제기하더라도 Mantiuk 교수는 우리 눈의 한계도 고려해야 한다고 말했습니다.

그는 “우리가 선명하고 다채로운 이미지를 보는 것은 우리 뇌가 정보를 재구성하고 누락된 정보도 추론할 수 있기 때문”이라고 말했다.

“따라서 카메라가 ‘가짜 작업’을 한다고 불평할 수도 있지만 인간의 두뇌는 실제로 다른 방식으로 동일한 작업을 수행합니다.”