[AI타임스] [10월27일] ‘AI 브라우저’의 초기 한계…”보안 문제 심각·성능 개선 필요”

(사진=셔터스톡)

오픈AI가 인공지능(AI) 브라우저 ‘챗GPT 아틀라스’를 출시한 지 1주일이 됐습니다. 지난 주말부터 미국에서는 본격적으로 리뷰가 등장하기 시작했습니다.

AI 브라우저는 말 그대로 웹 브라우저에 AI 챗봇을 결합한 것입니다. 일반 웹 브라우저 오른쪽 화면에 상시 채팅창을 열어놓고, 현재 서핑 중인 웹 페이지나 열린 탭 전체에 대한 요약이나 작업에 도움받을 수 있습니다. 또 메모리 기능을 통해 이전에 보던 페이지를 곧바로 찾을 수 있습니다.

역시 핵심은 에이전트 기능입니다. AI가 사람 대신 웹 페이지를 조작, 간단한 작업을 처리할 수 있습니다. 앞으로는 예약이나 쇼핑도 가능하게 만들 예정입니다.

퍼플렉시티도 지난 7월 ‘코멧’이라는 AI 브라우저를 선보였고, 구글도 크롬 브라우저에 ‘제미나이’를 추가해 AI 브라우저와 비슷한 기능을 갖췄습니다. 그러나, 오픈AI가 아틀라스를 출시하자 본격적으로 이 분야에 대한 분석이 시작된 것입니다.

이제까지 등장한 전문가 분석 중 가장 두드러진 부분은 보안에 관한 것입니다.

하쉬트 바디파르티 Y콤비네이터 엔지니어는 코멧을 “보안 재앙(security disaster)”이라고 불렀습니다.

코멧이 방문하는 웹 페이지에 사람의 눈으로는 볼 수 없는 흰색 글씨로 악성 코드를 심거나 부적절한 명령어, 즉 특정 주소로 메일을 보내라는 지시 등을 숨겨 놓으면, AI가 별 필터링 없이 이를 수행한다는 것입니다. 이를 ‘프롬프트 인젝션’ 공격이라고 부릅니다.

그러자, 퍼플렉시티는 이를 실시간으로 식별할 수 있는 탐지 시스템을 추가했다고 22일 밝혔습니다.

하지만, 이런 공격은 원래 ‘고양이와 쥐 게임’에 비유됩니다. 즉, 방어책을 만들면 이를 뚫기 위한 새로운 시도가 뒤따릅니다.

데인 스터키 오픈AI의 최고 정보보안책임자(CISO)도 X(트위터)에 글을 올려 “프롬프트 인젝션은 여전히 ​​미해결 보안 문제로 남아 있으며, 공격자들은 챗GPT 에이전트를 속이기 위해 상당한 시간과 자원을 투자할 것”이라고 시인했습니다.

아밋 베르마 뉴런7 창립자는 AI 브라우저에 메뉴 항목을 선택하고 하위 항목을 선택해 데이터 페이지로 이동하라는 명령을 내렸지만, 번번이 실패했다고 전했습니다. 이는 인간에게는 매우 간단한 작업입니다.

이에 대해 웹 페이지는 인간을 위해 만들어졌으며, 웹에서 노이즈를 걸러내고 필요한 정보만 찾아내는 인간적인 직관이 기계에는 없다는 점을 지적했습니다.

즉, “웹 페이지는 의미적 명확성이 아닌 시각적 디자인에 최적화돼 있으며, 에이전트는 사람이 버튼과 메뉴를 보는 곳에서 광활한 문서 개체 모델(DOM) 트리와 예측 불가능한 스크립트를 보게 된다”라는 설명입니다.

이 때문에 개인적인 용도로는 사용할 수 있을지 모르지만, 기업에서 AI 브라우저를 채택하는 것은 아직 불가능할 것으로 봤습니다.

개인 사용자에게도 아직 뚜렷한 이점을 주기에 부족하다는 지적도 나왔습니다. AI 브라우저의 사용자 인터페이스(UI)는 단순히 챗GPT 홈페이지를 확장한 것 같은 모습이며, 기존 구글 검색과 비교해도 뚜렷한 장점이 보이지 않다는 분석이 등장했습니다.

(사진=오픈AI)

유명 기술 평론가인 제프리 파울러는 아틀라스가 사용자의 온라인 활동을 모두 감시하고 기억할 수 있는 권한을 요구한다며, 조심해서 사용할 것을 권고했습니다. 사람들의 웹 서핑 기록은 성인 사이트 방문과 같이 감추고 싶거나 다시 기억하고 싶지 않은 내용도 있기 때문이라는 것입니다. 그러나 AI 브라우저는 모든 것을 기억하고 있다는 것입니다.

그는 “방문 기록이나 기억에 남지 않는 ‘시크릿’ 모드를 제공하지만, 이 모드는 이름처럼 다른 웹사이트나 챗GPT 자체로부터 사용자를 실제로 숨겨주지는 않는다”라고 지적했습니다.

이 밖에도 무료 사용자에게도 제공되는 아틀라스가 사용 몇분 만에 ‘메시지 한도’를 표시하고, 일부 기능은 유료 사용자에게만 제공하는 등 결제 없이는 제 기능을 모두 사용하기 어렵다는 지적도 나왔습니다.

물론, AI 브라우저는 이제 막 도입됐으며, 시행착오를 통해 앞으로 큰 변화가 생길 것으로 보입니다. 이는 오픈AI나 퍼플렉시티와 같은 추격자로서는 시장 점유율을 높이고 수익을 창출할 새로운 핵심 수단으로, 중요도가 크기 때문입니다.

또, 브라우저는 사용자가 PC나 모바일에서 실제로 어떤 작업을 하는지 파악할 수 있는 거의 유일한 도구입니다. 이는 에이전트를 구축하는 데 가장 중요한 데이터 수집에 활용될 수 있습니다.

그만큼 웹 브라우저는 사용자에 대해 많은 정보를 담고 있으며 업무 상당 부분을 처리하는 도구로, 여기에 보안이나 부정확한 작동, 그리고 추가 비용 문제가 발생한다면 큰 위험이 따를 수 있습니다.

그동안 AI 챗봇 위주로 발전해 온 AI의 인터페이스와 사용자 경험(UX)이 AI 브라우저 본격화로 어떻게 진화할지 관심입니다.

출처 : https://www.aitimes.com/news/articleView.html?idxno=203463