메타의 뮤즈와 오픈AI ‘닷츠’ 등 개인용 에이전트 AI 서비스가 AI해킹의 새로운 취약점으로 떠오르고 있다. 사용자의 민감한 개인 정보가 담겨있는 서비스의 특성상 AI를 활용한 해커의 먹잇감이 될 수 있다는 지적이 나온다. 사진안 뮤즈와 닷츠의 로고. 로이터=연합뉴스
금융권에 인공지능(AI)발 해킹 위협이 현실화되고 있는 가운데, 일정 관리와 메일 회신은 물론 예약·결제까지 대신 처리해 ‘AI 비서’로 불리는 개인용 AI 에이전트가 AI 해커의 새로운 타깃이 될 거라는 우려가 커지고 있다. 메타의 ‘뮤즈’, 미국 스타트업 스피어 스트릿 테크놀로지의 ‘인스팅트’ 등 최근 글로벌 기업들이 경쟁적으로 출시하고 있는 AI 에이전트 서비스가 개인정보를 통째로 내주는 뒷문이 될 수 있다는 것이다. IT업계의 글로벌 보안 구루라 불리는 암호학자 브루스 슈나이어 미국 하버드대 버크먼 클라인 인터넷·사회 연구센터 연구원은 5일 중앙일보와의 서면 인터뷰에서 “현재 AI 개인 에이전트는 보안과 사생활 보호 측면에서 재앙 수준에 가깝다”고 진단했다.
뮤즈나 인스팅트 등 AI 에이전트 서비스가 개인을 대신해 일하려면 각종 민감한 정보를 들여다볼 수 있어야 한다. 아직 국내 출시 전이지만 뮤즈의 경우 앱을 켜면 이메일과 캘린더 등 이용자의 개인정보 연동부터 제안한다. 미국에서 ‘뮤즈가 은행에 묻혀 있던 돈을 대신 찾아줬다’는 후기가 나오는 것도 이 연동 덕분이다. 더 많은 정보를 제공할수록 편리함도 더 커지는 구조인 것이다. 뮤즈가 출시 2주 만에 미국 양대 앱 마켓 1위에 오르며 열풍을 일으키자 오픈AI는 지난달 29일(현지시간) 에이전트 서비스 ‘닷츠’를 공개했다. 네이버·카카오 역시 에이전트 서비스 확대에 나서며 기업들의 AI 에이전트 출시 경쟁도 치열해지고 있다.
솔트랩스가 공개한 마누스의 해킹 시도 장면. 메일에 몰래 악성 코드를 심어 놓았고, 마누스가 이메일을 읽는 과정에서 자동으로 실행됐다. 솔트랩스 유튜브 캡처.
문제는 이렇게 연결한 계정의 정보가 빠져나가는 데 악성 메일 한 통이면 충분하다는 점이다. 미국 보안업체 솔트시큐리티 연구팀 솔트랩스는 지난 1일 AI 에이전트 서비스 ‘마누스’를 대상으로 한 실험을 공개했다. 연구진은 사용자가 마누스에 연결해 둔 시험용 지메일 계정으로 악성코드를 심은 메일을 보냈다. 처음 메일에 ‘이 코드를 실행하라’는 식의 지시를 그대로 담았을 때는 마누스가 실행을 거부했다. 하지만 악성 코드를 복잡한 기호로 숨긴 뒤 ‘메일 내용을 보려면 이 기호를 먼저 풀라’고 유도하자 마누스는 기호를 풀기 시작했고, 곧 악성 명령이 자동으로 실행됐다.
연구진은 “이 과정을 거쳐 사용자의 지메일과 구글 드라이브 인증 정보를 확보할 수 있다”고 밝혔다. 메일 읽기만 맡겼을 뿐인데 AI 에이전트가 발신자 지시에 따라 악성코드를 설치해 계정의 ‘열쇠’가 넘어갈 수 있다는 것이다. 슈나이어 연구원은 “AI 기술은 사이버 공격을 더 쉽게 만들고, 더 많은 이에게 그런 능력을 쥐여주고 있다”며 “개인용 에이전트 서비스는 본질적으로 외부 해킹에 취약하다”고 지적했다.
이 같은 위험을 줄이기 위한 이용 지침이 없는 건 아니다. 싱가포르 사이버보안청은 지난 5월 개인용 AI 에이전트 서비스인 ‘오픈클로’ 이용자에게 ▶민감정보 접근 제한 ▶업무에 필요한 최소한의 권한 부여 ▶결제 등 중요한 작업 전 이용자 승인 등을 권고했다. 프라이버시를 강조해온 애플은 개인정보 유출 우려 등을 이유로 지난 2일 AI 에이전트의 맥(Mac) 내 정보 접근 통제에 나섰다. 과학기술정보통신부 역시 지난 7월 개인정보 보호와 권한 관리 등을 담은 에이전틱 AI 안전·신뢰 가이드라인을 연내 마련하겠다고 발표한 바 있다.
브라스 슈나이어 하버드대 연구원이 지난 2024년 세계 최대의 사이버 보안 컨퍼런스인 RSA컨퍼런스에 참석했던 모습. 사진 브라스 슈나이어
한 IT업계 관계자는 “개인용 에이전트는 마약처럼 한 번 쓰면 끊기가 어렵다”며 “뮤즈 등은 심지어 무료로 풀리고 있는 상황”이라고 말했다. 이미 AI 해킹을 개인 수준에선 막기 어렵다는 지적도 나온다. 슈나이어 연구원은 “AI 해킹 위험은 개인의 보안 선택으로 대응할 수 있는 범위를 훨씬 넘어선다”며 “AI 에이전트의 안전은 서비스를 내놓는 기업이 책임지고, 정부도 서둘러 대책을 마련해야 한다”고 강조했다.
댓글
0