[AI 타임스] 애플 인텔리전스 출시 첫날부터 환각 증세 보고…”심각하진 않지만 꽤 웃겨”

알림 요약 (사진=애플)
‘애플 인텔리전스’가 정식 출시된 첫날부터 사용자들의 ‘환각’ 보고가 잇따르고 있다. 문자 메시지나 메일을 요약해 주는 인공지능(AI) 기능에서 엉뚱한 내용이 보인다는 것으로, 치명적인 결함이라기보다 어이가 없는 수준으로 알려졌다.

테크크런치는 29일(현지시간) 전날 출시된 애플 인텔리전스의 사용 사례를 공개하며 일부 X(트위터) 사용자들이 게시한 이미지를 소개했다.

대부분 문제는 시리의 ‘알림 요약(Notification summary)’ 기능에서 발생했다. 이는 문자나 메일이 도착하면 우선 순위에 따라 내용을 짧게 요약, 대기 화면에 띄워주는 서비스다. 이 과정에서 내용을 엉뚱하게 요약했다는 것으로, 대부분 실소를 자아낼 만한 내용이다. 

앤드류 슈미트라는 사용자는 애플 인텔리전스가 자신의 어머니가 보낸 메시지를 “자살을 시도했으나, 회복해서 레드랜드와 팜 스프링에서 산책을 했다”로 요약했다고 밝혔다. 그러나 진짜 메시지는 “자전거에 치여서 죽을 뻔했다”라는 것이다.

https://x.com/AndrewSchmidtFC/status/1849947375873425889

메타딥이라는 사용자는 친구로부터 받은 자동차 사진이 첨부된 메일 요약을 소개했다. 거리에 세워 둔 자동차를 소개하는 내용으로 보이는데, 애플 인텔리전스가 요약한 내용은 ‘불법 주자(parked illegally)’였다.

https://x.com/mehtadeep/status/1848202351959585156
테드 모건이라는 사용자는 뉴스 레터가 도착할 때마다 요약 기능을 적용했다. 그 결과 지난주 가디언이 보도한 기사가 이상하게 요약됐다고 밝혔다. 

원래 뉴스는 전직 모델이 트럼프 전 대통령의 소개로 성적 학대자 제프리 엡스타인을 만났고, 그 과정에서 전직 대통령이 자신을 더듬었다고 폭로한 내용이다. 하지만 애플 인텔리전스는 이 내용을 ‘트럼프, 엡스타인이 자신을 더듬었다고 주장’이라는 타이틀로 둔갑시켰다.

이런 애플 인텔리전스의 환각 문제는 사전 테스트 과정에서도 이미 보고됐었다. 기술 칼럼니스트 제프리 파울러는 지난달 애플 AI 기능을 사용한 결과 “하루 평균 5~10번은 웃음이 터져 나왔다”라고 밝혔다.

하지만 이는 거의 두달 전의 일로, 정식 출시 뒤에도 여전히 환각 문제를 해결하지 못했다는 결론이 나온다. 물론 요약은 대체로 정확하며 이런 현상은 가끔 일어난다는 설명이다.

이 밖에도 iOS 18.1 버전에는 사진에 원하지 않는 물체나 사람이 찍혔을 때 지울 수 있는 ‘클린업’이 주요한 AI 기능으로 꼽혔다.

애플은 올해 말까지 iOS 18.2를 통해 챗GPT 통합과 이미지 생성 도구 ‘이미지 플레이그라운드(Image Playground)’와 ‘젠모지(Genmoji)’ ‘이미지 완드(Image Wand)’ 등 주요 기능을 출시할 예정이다.

iOS 18.1에 대해서는 대부분 아직 아이폰 16을 구매할 만큼 충분히 AI가 매력적으로 느껴지지는 않는다는 반응이 주를 이루고 있다.

출처 : AI타임스(https://www.aitimes.com/news/articleView.html?idxno=164774)

아마존 알렉사 출시 연기 : https://www.aitimes.com/news/articleView.html?idxno=164818