[AI Times] 앤트로픽, 웹 브라우저 에이전트 테스트 시작…”외부 공격에 아직 취약”

앤트로픽이 ‘클로드(Claude)’를 기반으로 한 크롬 전용 브라우저 에이전트를 공개했다. 웹사이트와 이메일, 문서 등에 숨겨진 악성 프롬프트가 AI를 오작동하게 만들 수 있는 보안 취약점이 확인되며, 연구용 테스트 형태로 먼저 선보였다.

앤트로픽은 26일(현지시간) 클로드를 활용한 브라우저 기반 AI 에이전트 ‘크롬용 클로드(Claude for Chrome)’의 연구 프리뷰를 선보인다고 밝혔다.

월 100~200달러를 내는 ‘맥스(Max)’ 요금제 구독자 1000명을 대상으로 우선 제공되며, 일반 사용자를 위한 대기자 명단도 열었다.

크롬 확장 프로그램 형태로 제공되는 ‘크롬용 클로드’는 브라우저 우측의 창 형태로, 사용자와 대화하며 웹 작업 중에 발생하는 맥락을 파악할 수 있게 설계됐다.

일정 관리, 이메일 정리, 예약 확인 등 사용자의 지시에 따라 브라우저 내 작업을 대신 수행할 수 있으며, 화면에 표시된 내용을 읽고 버튼 클릭, 양식 작성, 웹사이트 이동 등 사람과 유사한 방식으로 웹 소프트웨어를 다룰 수 있다.

내부 테스트에서는 보안 취약점도 드러났다. 악의적인 행위자가 웹사이트나 이메일, 문서 등에 숨겨진 지시문을 심어 AI를 속이는 ‘프롬프트 인젝션(prompt injection)’ 공격이 가능하다는 점이 확인된 것이다.

안전장치가 없는 상태에서는 공격의 23.6%가 성공했다. 예를 들어, 보안 지침으로 위장한 악성 이메일이 클로드에게 사용자의 이메일을 ‘메일함 정리’를 이유로 삭제하라고 지시했는데, AI는 별도의 확인 절차 없이 이를 그대로 실행했다.

앤트로픽은 이번 프리뷰 출시를 통해 위험을 발견하고 차단하는 것이 목표라고 밝혔다. 실제 이미 여러번 보안 조치를 적용해 프롬프트 인젝션 공격 성공률을 23.6%에서 11.2%로 낮췄다고 설명했다.

또 클로드 에이전트는 금융 서비스와 성인물, 불법 복제물 사이트 접근을 차단하며, 사용자가 ‘게시, 결제, 개인정보 공유’ 등 고위험 행동을 요청할 경우 반드시 사전 동의를 받도록 설계됐다.

AI 브라우저는 차세대 격전지로 꼽힌다. AI 에이전트를 제대로 구축하려면, 사용자의 활동을 지켜보고 맥락을 이해해야 하는데, 브라우저만한 데이터 수집 도구는 없기 때문이다.

이 때문에 퍼플렉시티는 최근 ‘코멧(Comet)’을 출시했으며, 오픈AI도 곧 AI 기반 브라우저를 선보일 것으로 알려졌다. 구글 역시 크롬에 ‘제미나이(Gemini)’ 연동 기능을 확장하고 있다.

특히 구글 반독점 소송 결과에 따라 크롬 매각 가능성이 제기되자, 퍼플렉시티는 345억달러의 인수 제안을 냈다. 오픈AI도 관심이 있다고 밝힌 바 있다.

출처 : https://www.aitimes.com/news/articleView.html?idxno=201866