미토스가 흔든 금융 보안 “AI 체계 다시 짜야”
현장선 데이터·권한·패치 자동화 과제 제기
이상근 고려대 정보보호대학원 부교수·AI연구소장(왼쪽 셋째)이 19일 서울 삼성동 코엑스에서 한국산업은행 주최로 열린 ‘넥스트라이즈’(Next Rise)에서 발언하고 있다. 사진=손재하 기자
[주간한국 강민혜·손재하 기자] 인공지능(AI)을 활용한 사이버 공격 우려가 커지면서 금융권 보안 논의가 새 국면에 들어섰다. 금융위원회(이하 금융위)가 고성능 AI 모델 ‘클로드 미토스 프리뷰’(Claude Mythos Preview)를 계기로 보안 목적 AI 활용을 위한 망분리 규제 완화에 나선 탓이다. 금융권·보안업계서는 ‘망분리 완화는 출발점일 뿐’이라는 지적이 나온다. 공격·방어자 모두 AI를 쓰는 상황에서 기존 외부망 차단 중심 보안체계만으로는 금융권 AI 전환을 감당하기 어렵다는 것이다.
19일 서울 삼성동 코엑스에서 열린 한국산업은행 ‘넥스트라이즈’(Next Rise)에서는 금융권 ‘AI 전환’(AX) 과제를 주제로 한 세션이 열렸다. 이날 참석자들은 금융권이 AI 도입에 속도를 내고 있으나 망분리 규제·내부 데이터 정비·보안 인프라·책임 소재 문제는 핵심 병목이라고 짚었다. 앞서 금융위는 지난달 미국 앤트로픽 AI 모델 미토스가 사이버보안 분야에서 탁월한 성능을 보였다면서도 해킹 공격을 기획·실행할 수 있는 능력까지 갖춘 점에 주목했다. 금융위는 고성능 AI가 해킹에 악용될 경우 금융권 보안 위협이 커질 수 있다고 봤다. 동시에 취약점 탐지·분석, 침해 위협 감지·차단 등 방어 목적으로 활용하면 보안 역량을 높일 수 있다는 점도 짚었다.
이에 금융당국은 보안 목적 AI 활용을 위한 망분리 규제 완화를 추진하고 있다. 다만 현장에서는 금융위의 규제 완화 논의보다 더 넓은 보안 의제가 필요하다는 목소리가 나왔다. 이상근 고려대 정보보호대학원 부교수·AI연구소장은 “(현재 금융권 논의가) 미토스에 함몰돼 있는데 공격·방어자 모두 AI 기술을 활용한 것은 이미 3년 정도 된 이야기”라고 말했다. 특정 모델의 등장에 놀랄 것이 아니라 AI가 공격·방어 양쪽 기본 도구가 된지 오래라는 것이다.
이 교수는 중국 연계 해킹 그룹으로 알려진 ‘GTG-1002’ 사례를 들며 AI 기반 공격 자동화가 이미 현실화됐다고 설명했다. 그는 “과거 해킹은 목표·취약점·공격 코드를 만들고 자산을 가져오는 여러 단계를 거쳤다”며 “이 과정의 80~90%를 자동화하는 것을 중국 해킹 그룹이 해낸 것”이라고 말했다. 공격자가 AI 활용 정찰·취약점 발견·공격 코드 생성·자격 증명 탈취·데이터 유출 등 일련의 공격 과정을 자동화하고 있다는 설명이다.
방어도 마찬가지다. 이 교수는 미국 방위고등연구계획국(DARPA)이 진행한 AI 사이버 챌린지(AI Cyber Challenge)를 예로 들었다. 그는 “결승에서는 5400만 줄의 코드에서 취약점을 찾고 자동으로 패치하는 AI 시스템이 등장했다”며 “이 기술은 이미 3~4년 전부터 시작됐다”고 말했다. AI가 취약점을 찾는 데 그치지 않고 패치 생성까지 수행하는 단계로 넘어갔다는 것이다.
이상근 고려대 정보보호대학원 부교수·AI연구소장이 19일 서울 삼성동 코엑스에서 한국산업은행 주최로 열린 ‘넥스트라이즈’(Next Rise)에서 발언하고 있다. 사진=손재하 기자
◇ “취약점 포착한 AI 공격 전환, 2.3년 → 8시간”
이 교수는 “27년간 찾지 못했던 오픈비에스디(OpenBSD·보안성 높은 운영체계) 취약점을 AI가 찾아냈다”며 “사람이 찾지 못한 버그를 AI가 찾는 시대가 열렸다”고 말했다. 오픈비에스디는 보안성을 중시하는 운영체제로 네트워크 장비·방화벽 등에 사용된다. 그는 또 영국 인공지능안전연구소(AISI)의 독립 평가 결과를 언급하며 “기업 네트워크에 침투하는 과정을 문제 형태로 만든 평가에서 32단계를 뚫어야 정답에 도달하는 과제가 있었다”며 “인간 전문가가 하면 20시간 걸리는 과제를 미토스가 20분 만에 세 차례 풀어냈다”고 했다. 공격 속도도 빨라졌다. 이 교수는 “취약점 공개에서 실제 악용까지 걸리는 시간, 즉 공격 전환 시간(TTE·Time to Exploit)은 2018년 평균 2.3년에서 지난 4월 10시간 수준으로 줄었다”며 “전날 확인한 수치는 8시간이었다”고 말했다. 그는 2028년에는 이 시간이 분 단위로 떨어질 수 있다고 전망했다. 사람이 취약점을 찾고 패치하는 수동 체계로는 대응이 불가능한 속도라는 지적이다.
AI가 코드를 작성하는 ‘바이브 코딩’ 확산도 새로운 부담이다. 바이브 코딩은 개발자가 자연어로 원하는 기능을 설명하면 AI가 코드를 작성하는 방식이다. 이 교수는 “코드 저장소에 올라가는 커밋(변경 사항을 버전 기록에 저장) 수가 폭증하고 있다”며 “4년이 지나면 코드 총량이 두 배가 될 것”이라고 말했다. 그는 “새로 만들어지는 깃허브 저장소 상당수가 AI로 작성되는 상황에서 코드 취약점 점검 대상도 빠르게 늘고 있다”며 “AI가 안전한 코드를 만들 수 있을 것인가로 초점을 바꿔야 한다”고 했다. 이 교수는 금융권이 패치 자동화를 본격적으로 고민해야 한다고 강조했다. 그는 “사람이 찾고 패치하는 수동 시스템으로는 대응이 불가능한 상황”이라며 “해외에서는 취약점 정보를 선제적으로 확보하고 AI가 패치를 생성·검증하는 기술이 이미 수년간 개발됐다”고 말했다.
프로젝트 글래스윙(Project Glasswing)처럼 앤트로픽이 구글·마이크로소프트·엔비디아 등과 추진한 AI 기반 사이버보안 프로젝트도 같은 흐름이라는 설명이다. 글래스윙은 앤트로픽이 구글과 마이크로소프트, 그리고 엔비디아 등 주요 국가의 기업으로 출범한 AI 기반 사이버 보안 프로젝트다. 미토스5와 페이블5를 기반으로 AI 기반 사이버 위협 대응 체계를 구축한다. 한국 기업은 미국의 수출 통제 조치에 따라 글래스윙 프로젝트에 포함되지 않았다. 미국 정부는 지난 12일(현지 시간) 외국 기관의 미토스5와 페이블5 접근을 중단하는 수출 통제 조치를 내렸다. 미토스5는 소프트웨어의 보안 취약점을 탐지하는 AI 모델이다. 페이블5는 미토스5의 잠재적 위험성을 낮추기 위해 안전 장치를 적용한 일반용 AI 모델이다.
한국산업은행은 19일 서울 삼성동 코엑스에서 ‘넥스트라이즈’(Next Rise)를 개최했다. 이상근 고려대 정보대학원 부교수·AI연구소장(왼쪽 셋째)은 이날 행사에서 한국 기업이 글래스윙에 참여하지 못해 정보 소외 현상이 나타날 수 있다고 지적했다. 사진=손재하 기자
다만 금융권에서 패치 자동화는 단순한 기술 문제가 아니다. 이 교수는 “금융권은 패치를 하려면 심의를 받아야 하고 기존 시스템과의 호환성 부담도 크다”며 “패치 이후 시스템 운용에 문제가 생기면 책임을 운영자가 진다”고 말했다. 그는 “해외에는 절차대로 패치했을 경우 책임을 경감하는 법적 장치가 있다”며 “국내도 관련 법 조항을 바꿀 필요가 있다”고 제안했다.
AI 에이전트 도입도 새로운 보안 리스크로 꼽혔다. AI 에이전트는 이용자의 지시에 따라 메일 정리, 일정 등록, 문서 작성, 시스템 접속 등을 스스로 수행하는 AI를 뜻한다. 이 교수는 “실무자뿐 아니라 임원들도 AI 도입을 빠르게 추진하고 있다”며 “쉬운 방법은 사내 아이디와 비밀번호를 주고 알아서 하라고 시키는 것인데, 이 순간 사내와 외부의 경계가 무너질 수 있다”고 경고했다.
기존 경계 중심 보안체계가 AI 업무 환경에서는 더 이상 충분하지 않다는 의미다. 프롬프트 인젝션도 대표적 위험으로 제시됐다. 프롬프트 인젝션은 AI가 따라야 할 악성 지시문을 이메일이나 문서 안에 숨겨 AI를 속이는 공격 방식이다. 이 교수는 “AI에게 메일함을 정리하고 캘린더에 일정을 넣으라고 했는데, 누군가 보낸 메일에 흰색 바탕과 흰색 글씨로 공격자에게 정보를 보내라는 지시가 숨어 있을 수 있다”며 “권한을 가진 AI가 메일함을 훑는 순간 모든 정보를 볼 수 있다”고 말했다. 그는 “AI 거버넌스가 중요해지는 시점”이라고 강조했다.
◇ 금융권 ‘예민’…“유연한 AI 도입 어려운 것이 현실”
유두연 한국증권금융 부장은 “조직 특성상 유연하게 AI를 도입하기 어렵고 외부에 맡기기도 어렵다”며 “스타트업과 협업했다”고 말했다. 한국증권금융은 내부 AI 활용 확산을 위해 상시 교육을 진행하고 부서별 혁신 담당자를 선정해 AI 활용 효과를 체험한 뒤 조직 안에 전파하도록 했다. 내부 공모전을 통해 활용 사례를 발굴· 발표하는 과정도 거쳤다. 유 부장은 향후 내부망 기반 자체 AI 플랫폼 구축 계획도 소개했다. 한국증권금융은 AI 솔루션 기업 올거나이즈(Allganize)와 내부망 안에서 자체 AI 플랫폼을 구축하는 사업을 추진하고 있다. 금융당국이 망분리 예외를 허용하는 흐름을 활용해 외부 최신 AI 에이전트를 내부 개발 환경에서 쓸 수 있도록 하겠다는 구상이다. 유 부장은 “작게 시작해 빠르게 확인하고 확대하는 스케일업 전략이 유효했다”며 “리소스가 부족한 기관일수록 외부의 다양한 파트너와 협력하는 것이 중요하다”고 말했다.
이원강 올거나이즈 부대표는 금융권이 AI를 도입하기 좋은 조건과 어려운 조건을 동시에 갖고 있다고 분석했다. 그는 “금융권은 문서가 많고 이 문서와 대형언어모델(LLM)을 활용할 수 있는 잠재력이 크다”며 “다만 금융은 자산을 관리하는 업권인 만큼 어떤 경우에도 보안이 중요하다”고 강조했다.
그러나 금융권이 요구하는 보안 수준과 성능 사이에는 간극이 있다는 지적도 나왔다. 이 부대표는 “한국은 회사 내부 서버에 직접 설치하는 방식을 선호한다”며 “외부망을 차단하면서 GPT급 성능을 원하는 경우가 있는데 두 가지는 보통 같이 이뤄지기 어렵다”고 말했다.
김태완 한국증권금융 운용본부장 겸 디지털본부장 상무는 금융권 AX의 현실적 애로를 짚었다. 김 상무는 “금융권이 AI에 관심이 많을 수밖에 없는 것은 소비자 편익 증가가 클 것이라는 기대 때문”이라며 “다만 금융은 숫자로 표현되는 산업임에도 내부 데이터화는 생각보다 잘돼 있지 않다”고 말했다. 그는 “AI를 쓰려면 외부 자료 활용이 필요한데 금융권은 외부망 차단으로 이를 쓰기 어렵다”며 데이터화·망분리 문제가 동시에 AI 도입 병목이 되고 있다고 설명했다. 김 상무는 내부 정보 자산 관리 문제도 언급했다. 그는 “예전에는 각자 개인이 가지고 있던 정보 자산이 그 사람이 퇴직하면서 사장되는 경우가 있었다”며 “개인 PC가 아니라 중앙에 문서를 모으고 그 문서가 AI에 들어갈 수 있도록 바꿔야 한다”고 했다.
◇ “자체 해결 위해 보안 인력 유치 중요”
정성인 금융위원회 디지털조사총괄과장이 19일 서울 삼성동 코엑스에서 한국산업은행 주최로 열린 ‘넥스트라이즈’(Next Rise)에서 발언하고 있다. 사진=손재하 기자
우수 보안 인력 유치의 필요성도 나왔다. 김 상무는 “금융 분야는 다른 어떤 분야보다 보안이 중요하다”며 “망분리 강화가 금융권 앞길을 막았다”고 말했다. 그는 “우수한 정보통신기술(ICT) 인력이 금융권에 오는 것을 꺼리고 금융권은 아웃소싱과 솔루션 의존도가 커지는 구조가 됐다”며 “ICT업계에서는 금융권을 무덤 같은 곳으로 보고, 그 중에서도 망분리 관련 업무를 막장처럼 부른다는데 처우도 좋지 않다”고 했다. 신우석 베인앤드컴퍼니코리아 파트너도 “금융권이 AI 인재에게 매력적으로 보이는 업무 형태와 금전적 보상을 제공하고 있는지도 진지하게 자문해야 한다”고 했다.
정성인 금융위원회 디지털조사총괄과장은 AI가 금융 소비자와 국민 경제에 가져올 효과도 강조했다. 그는 “AI를 먼저 받아들인 회사는 그렇지 않은 회사보다 비용과 서비스 측면에서 앞서갈 것”이라며 “그 혜택은 국민과 기업에게 돌아갈 것”이라고 말했다. 정 과장은 AI 기반 대안 신용 평가가 금융 이력이 부족한 소비자에게 금융 접근성을 넓히고 AI 자산 관리가 개인 맞춤형 금융 서비스를 확대하며 보이스피싱과 불법 사금융 징후 탐지에도 활용될 수 있다고 제안했다. 정 과장은 “머지않아 우리가 알던 금융 서비스는 근본부터 달라질 수 있다”며 “책임 있는 변화를 위한 명확한 기준이 필요하다”고 했다.
◇ 前 해커 “AI 활용, 정보 부서 아닌 전사적 관리 필요”
유두연 한국증권금융 부장이 19일 서울 삼성동 코엑스에서 한국산업은행 주최로 열린 ‘넥스트라이즈’(Next Rise)에서 발언하고 있다. 사진=손재하 기자
해커 출신 민무홍 성균관대 컴퓨터교육과·인공지능융합과 교수는 본지에 “AI 활용 사이버 공격이 고도화되는 상황에서 금융당국의 망분리 규제 완화 추진은 적절한 조치”라며 “금융사도 취약점·이상 행위 탐지 등 보안 목적 AI 활용 역량을 확보해야 하기 때문”이라고 말했다.
민 교수는 “망분리 규제가 완화될수록 금융권 보안 체계는 단순히 외부 접속을 차단하는 방식에서 벗어나 데이터가 어디로 이동하고 누가 어떤 권한으로 AI를 활용하며 그 결과가 업무 시스템에 어떤 영향을 미치는지를 실시간으로 통제하는 체계로 고도화돼야 한다”며 “특히 고객 정보와 내부 중요 정보가 외부 AI 모델이나 프롬프트로 유출되지 않도록 데이터 분류, 비식별화 등을 강화해야 한다”고 강조했다.
아울러 “프롬프트 인젝션, 민감 정보 노출, 모델 오남용 등과 같은 AI에 특화된 보안 위협들에 대응하기 위한 점검과 상시 모니터링 체계도 필요하다”며 “내부 시스템 현황과 리스크는 내부 직원들이 가장 잘 알고 있다. 외부 ICT·보안 전문 컨설팅에 의존하기 보다는 상호보완적으로 보안 체계를 만들어가야 한다”고 말했다.
또 “내부 개발팀을 보유하고 있는 금융 회사들은 자체 개발을 통해 더 빠르게 효과를 낼 수 있을 것”이라면서도 “다만 고객 정보나 핵심 내부 통제 데이터가 들어가야 하는 업무들까지 외부 상용 모델에 의존하기는 어렵다”고 강조했다.
민 교수는 “금융 회사는 AI 활용을 정보 보호 부서만의 문제가 아니라 전사적 내부 통제 과제로 관리해야 한다”며 “이사회 또는 최고 경영진 차원에서 AI 활용과 보안 리스크를 정기적으로 보고받는 거버넌스 체계가 필요하다”고 했다.
또 “고객 정보를 포함한 데이터 분류 기준, 내외부 활용 AI 모델들이 포함된 AI 자산 관리 대장, 계열사·협력사·외부 고객사에 대한 보안 실사와 계약상 통제 장치, 데이터의 흐름을 모니터링할 수 있는 상시 체계를 갖춰야 한다”고 말했다.
이어 “어떤 데이터가 어떤 모델에 입력되고, 모델로부터 나온 결과가 어떤 업무 판단이나 시스템 실행으로 이어지는지, 외부로 유출될 가능성이 있는지 파악하고 끝까지 추적 가능한 구조를 만드는 것이 핵심”이라고 덧붙였다.
강민혜·손재하 기자 mine@hankooki.com
댓글
0