[조선일보] 주인 몰래 코인 채굴, 이메일 삭제… 사고 치는 AI

AI 비서, 보안·신뢰성 문제 잇따라

그래픽=유재일

중국 테크 기업 알리바바의 인공지능(AI) 에이전트(비서)가 훈련 과정에서 사용자 몰래 가상 화폐 채굴을 시도한 것으로 나타났다. 사전에 설정된 범위를 넘어 스스로 판단해 승인하지 않은 채굴 행위를 한 것이다.

최근 PC와 외부 도구를 직접 조작하는 AI 에이전트 시대가 본격화하면서 보안과 신뢰성 문제가 잇따르고 있다. AI 에이전트는 단순히 질문에 답하는 챗봇을 넘어 실제 컴퓨터와 네트워크에 연결돼 업무를 수행한다. 이 과정에서 인간의 지시를 넘어 예기치 못한 행동을 할 수 있다는 우려가 커지고 있다.

그래픽=김성규

말 안 듣는 AI 비서

알리바바 연구팀은 코딩 AI 에이전트 ‘롬(ROME)’ 사례를 논문을 통해 공개했다. 연구팀에 따르면 이 에이전트는 훈련용 GPU 자원을 무단으로 활용해 가상 화폐 채굴을 시도한 정황이 포착됐다. 보안 제한을 우회해 외부 IP와 연결되는 네트워크 터널을 구축한 것이다. 연구팀은 “이 행동은 별도의 지시를 받은 것도, 작업 수행에 필요한 것도 아니었다”며 “강화 학습 과정에서 AI 에이전트가 승인되지 않은 위험한 행동을 스스로 만들어낼 수 있음을 보여준다”고 밝혔다. 알리바바는 보안 시스템을 통해 이상 네트워크 활동을 탐지하고 해당 시도를 차단했다.

AI 에이전트의 통제 문제는 이뿐이 아니다. 메타 초지능연구소에서 안전 분야를 총괄하는 서머 유 디렉터는 지난달 오픈클로 AI 에이전트가 자신의 이메일 200통을 삭제했다고 X(옛 트위터)에 밝혔다. 그는 AI에 시험용 메일함에서 확인하거나 삭제할 메일을 제안하고, 승인을 받고 삭제하도록 했다. 시험 메일함에서 잘 작동하자 실제 메일함을 연결했더니 AI가 ‘승인 후 삭제’라는 지시 사항을 잊어버린 것이다.

오픈AI 개발자 닉 파시가 오픈클로 기반으로 만든 자동 AI 가상 화폐 거래 봇 ‘랍스터 와일드’는 맡고 있는 가상 화폐를 실수로 송금하는 일을 벌이기도 했다. 파시는 랍스터 와일드에게 5만달러 상당의 솔라나 코인을 운용하게 했고, 이 AI 에이전트가 인기를 끌며 ‘랍스타’라는 밈 코인까지 생겨났다. 한 사용자가 AI 에이전트에 X로 삼촌 치료비로 4솔라나(약 320달러)가 필요하다며 솔라나 지갑 주소를 남겼는데, 랍스터 와일드는 실수로 보유했던 44만달러(약 6억6000만원)어치 랍스터 코인 전액을 보냈다.

일탈 막을 방법 없나

이 같은 AI 에이전트의 일탈 문제는 앞으로 늘어날 전망이다. AI가 실제 프로그램을 실행하고 기업 내부 데이터 등에 직접 접근하는 구조가 확산하고 있기 때문이다.

미국 하버드·스탠퍼드대 등 연구팀은 AI 에이전트를 이메일·메신저 등 실제 환경에 배치했을 때 발생하는 취약점을 분석했다. 이 연구에서 AI는 이메일 전문을 전달해 달라고 하자 한국의 주민등록번호 격인 미국 사회보장번호(SSN)나 은행 계좌, 의료 정보 등이 포함된 내용을 그대로 노출했다. ‘내 비밀 정보를 지켜 달라’는 명령을 받은 AI는 이메일 삭제 기능이 없다는 이유로 메일 서버 설정 자체를 통째로 삭제해, 메일 시스템을 불능 상태로 만들기도 했다. 연구팀은 “AI 에이전트의 자율성과 시스템 접근 권한이 확대될수록 새로운 형태의 안전·보안 위험이 발생할 수 있다”며 “자율형 AI의 안전한 도입을 위해 책임 소재를 명확히 하고 정책적 대응이 필요하다”고 지적했다.

출처 :

https://www.chosun.com/economy/tech_it/2026/03/12/2BBY72SDLVAFLGYY37YVPREGGY/