[중앙일보] 사기꾼이 올린 정보로도 답변…거짓말 못 거르는 ‘AI 검색’ [팩플]

지난해 구글 I/O 행사에서 AI 오버뷰가 소개되는 모습. AP=연합뉴스

인공지능(AI)이 정답을 알려주는 형태로 검색결과를 내놓는 AI 검색 시장이 커지면서 새로운 우려가 확산하고 있다. 사실상 검색의 첫 화면을 차지하게 된 AI 답변이 부정확할 경우 곧바로 금전 피해 등으로 이어질 수 있어서다.

무슨일이야

월스트리트저널(WSJ)은 지난 15일 미국의 한 구글 사용자가 유럽 크루즈 여행을 앞두고 구글에서 업체 고객센터 번호를 검색했다 사기 당한 사례를 보도했다. 구글의 AI검색 서비스인 ‘AI 개요’(AI Overview) 결과에 표시된 번호로 전화 걸어 상담 진행 후 결제했는데, 알고보니 공식 고객센터가 아닌 가짜 전화 번호였기 때문이다. 사기꾼들이 리뷰 사이트나 게시판 등에 가짜 번호를 반복적으로 퍼뜨려 AI 검색 결과에 잘못된 정보가 나오도록 조작했고 실제 금전적 피해로까지 이어진 것.

AI 오버뷰는 사용자가 검색창에 궁금한 걸 입력하면 관련 링크를 보여주기 전 AI가 웹의 여러 정보를 종합해 직접 답을 요약해 주는 서비스다. 구글은 지난해 서비스 도입 이후 빠르게 검색 결과 전반에 이를 적용하고 있다. 미국의 데이터 분석 기업 콘덕터(Conductor)에 따르면 지난달 기준 전체 검색어 1억 1800만 건 가운데 약 14%에서 AI 오버뷰가 표시됐다. 한 달 전보다 65% 증가한 수치다.

구글 AI 개요(Overview)가 작동하는 모습. 검색창에 질문을 입력하면 특정 검색어의 경우 AI가 취합한 정보를 일목요연하게 정리해주는 AI 오버뷰 기능이 작동한다. 사진 구글 캡처

이게 왜 중요해  

문제는 AI가 직접 ‘정답’을 보여주는 구조로 인해 사용자들이 결과 검증 없이 이를 신뢰하는 경향이 강해지고 있다는 점이다. 기존 키워드 검색에선 공식 사이트, 신뢰성 있는 출처를 우선 노출하는 방식으로 최소한의 안전장치가 마련돼 있었다. 하지만 AI 검색은 출처가 불분명한 정보도 매끄럽게 요약해 보여주기 때문에, 사기성 정보에 노출될 위험이 커졌다. 마이크 블루벤탈 니어 미디어 애널리스트는 WSJ에 “30년 전 사기꾼들 기법만으로도 이런 새로운 답변 엔진들을 조작할 수 있다”며 “(조작이) 마치 앉아 있는 오리를 사냥하는 것 처럼 쉬운 일이 됐다”고 말했다.

검색에 노출되는 개별 기업이 대응하기도 어렵다. AI 검색은 여러 단편적 정보를 조합해 답을 내놓기 때문에, 어떤 경로로 왜곡된 정보가 형성됐는지 기업이 추적하기 어렵다. 기업용 마케팅 솔루션 개발 스타트업 비즈니스 캔버스 김우진 대표는 “AI가 내놓는 답변은 사용자 질문 방식이나 이전 대화 맥락 등에 따라 달라진다”며 “LLM이 어떻게 사고하는지 알 수 없기 때문에, AI 검색 결과에 잘못된 내용이 포함되어도 개별 기업이 대응하긴 어려운 상황”이라고 말했다.

특히 결제·여행·의료·법률처럼 잘못된 정보가 곧바로 금전 피해나 안전 위협으로 이어지는 영역에서 파장이 더 클 수 있다. 강정수 미디어스피어 AI연구센터장은 “이용자들이 잘못된 정보를 얻는 경험을 하게 되면 그 영역에선 사용을 안 하게 될 수 있기 때문에 (업계에선) 필사적으로 개선하려 할 것”이라고 말했다.

안전 장치 도입하는 플랫폼

구글은 최근 AI 오버뷰에 노출된 일부 가짜 고객센터 번호를 삭제하고 “위 사례와 같은 드문 오류에 대한 개선 작업을 진행 중”이라고 밝혔다.

국내에서도 AI검색 서비스 전환이 진행 중이다. 네이버는 지난 3월 일부 검색 결과에 AI 오버뷰와 유사한 ‘AI 브리핑’을 도입했다. AI 브리핑은 현재 전체 검색 결과의 8%에 적용되고 있다. 네이버는 연말까지 이를 전체 검색량의 20%까지 확대할 예정이다. 네이버 관계자는 “불법, 혐오 조장, 성인 등 부적절한 질의에 대해선 AI 브리핑을 제공하지 않고 있다”며 “AI 검색 서비스의 특성을 고려해 안전장치와 검증 절차를 계속 강화하고 있다”고 밝혔다.

권유진 기자, 어환희 기자
출처: https://www.joongang.co.kr/article/25361675