photo AP·뉴시스
인공지능(AI)이 해킹의 시간을 줄이고 있다. 사람이 며칠씩 걸려 찾던 보안 취약점과 침투 경로를 AI가 몇 시간 안에 찾아내는 단계에 이르면서 해킹의 기술도 이전과는 다른 국면을 맞았다. 대기업 전산망뿐만 아니라 은행·공공기관·쇼핑몰·병원 등 생활 인프라와 연결된 시스템도 언제든 표적이 될 수 있다. AI가 국가의 인프라를 해킹해 사회 전체를 마비시키는 일 역시 영화 속 시나리오에 그치지 않을 수 있다는 지적도 나온다.
앤트로픽이 지난 4월 7일(현지시간) 제한 공개한 AI 모델 '클로드 미토스 프리뷰(Claude Mythos Preview·미토스)'가 주목받는 이유도 여기에 있다. 앤트로픽에 따르면 미토스는 인간이 며칠씩 걸려 수행하던 취약점 탐색부터 침투 경로 설계, 실제 공격까지의 과정을 몇 시간 만에 해냈다. 취약점 재현 평가에서도 미토스는 83.1%를 기록해 자사의 최신 모델인 '클로드 오퍼스 4.6'의 66.6%를 웃돌았다. 특히 '세계에서 가장 안전한 운영체제'로 불리던 '오픈BSD'에서 27년간 남아 있던 결함을 찾아냈고, 유튜브 등 영상 플랫폼에서 영상 추출·변환에 사용되는 소프트웨어인 'FFmpeg'의 16년 된 '제로데이(개발사도 몰랐던 결함)'를 발견해 IT업계에 파장을 일으키기도 했다. 악용 가능성을 우려한 앤트로픽은 미토스를 일반에 전면 공개하지 않았다. 대신 같은날 아마존웹서비스(AWS)·구글·마이크로소프트·애플 등과 연합해 국제 보안 협의체 '프로젝트 글래스윙'을 출범했다. 이는 JP모건 등 비(非)IT 기업도 참여한 초거대 공동 대응체계다. 앤트로픽은 이를 위해 1억달러(약 1479억원) 규모의 모델 이용권을 지원하고, 400만달러(약 59억원)를 오픈소스 보안단체에 직접 기부하겠다고 약속했다. 개별 기업 보안망으로는 미토스를 온전히 막아낼 수 없다는 판단에서다.
미토스를 제한 공개한 이유로는 경쟁국이 이를 활용했을 경우 발생할 수 있는 파장이 우선적으로 거론된다. 권헌영 한국사이버안보학회 부회장은 "미토스가 전면 공개될 경우 중국 등 경쟁국이 기술을 모방할 가능성이 있고, 실제 공격 피해가 발생하면 앤트로픽이 법적 책임 문제에 휘말릴 수도 있다"며 "향후에도 수출통제 대상처럼 분류돼 아주 가까운 우방국 중심으로만 공유될 가능성이 있다"고 분석했다. 그러나 전문가들은 미토스가 완전히 새로운 방향성을 제시한 '게임체인저'는 아니라고 본다. 김승주 고려대 정보보호대학원 교수는 "미토스의 특징으로 꼽히는 '멀티 에이전트(다수 AI가 동시에 작업하는 구조)'는 이미 상용화됐고, 자동화 해킹 연구는 20여년 전부터 이어져왔다"며 "자주 언급되는 제로데이나, 오랫동안 드러나지 않았던 기존 보안망 취약점을 찾아냈다는 내용 역시 이전부터 다른 프로그램들을 통해 보고된 내용"이라고 말했다.
앤트로픽의 CEO이자 공동창업자 다리오 아모데이. photo AP·뉴시스
AI 공격효율, 대폭 상승
그럼에도 미토스가 위험한 이유는 AI의 발전속도가 어느 정도인지를 보여주는 사례이기 때문이다. 미토스는 새로운 패러다임이라기보다 기존에 축적돼온 연구 역량이 한층 고도화된 성능으로 구현됐다고 봐야 한다는 것이 전문가들의 설명이다. 현재로서는 미토스가 기존 AI보다 나아진 점이 무엇인지 또한 앤트로픽이 세부 내용을 공개하지 않아 불분명하다. 다만 현재 연구 흐름을 감안하면 기존 보안 자동화 체계와 결합한 대규모언어모델(LLM)의 공격 효율이 대폭 상승한 것이 주된 요인으로 추정된다.
LLM은 문장과 컴퓨터 코드를 함께 학습하는 AI 모델이다. 기존 보안 프로그램이 정해진 규칙에 따라 수상한 부분을 찾아내는 방식이었다면, LLM은 코드의 기능과 서로 간 연결점까지 읽어낼 수 있다. 이 때문에 전체 프로그램 흐름을 따라가며 보안 결함을 찾는 데 유리하다.
클라우드보안연합(CSA)의 4월 14일 자료에 따르면 취약점 공개 후 실제 악용이 확인되기까지 걸리는 시간은 2019년 평균 2.3년에서 2026년 하루 미만으로 급감했는데, 업계에서는 LLM 기반 자동화가 시간 단축에 일조했다고 평가한다. 앤트로픽도 기존 모델 '클로드'를 유사한 방향으로 발전시켜왔다. 앤트로픽은 지난 2월 5일 클로드 오퍼스 4.6을 공개하며 "대규모 프로그램 코드에서도 이전보다 더 길고 안정적인 작업을 지속할 수 있다"고 설명했다.
자율형 AI로의 해킹 체계 변화가 위협적인 이유로는 공격과 방어의 구조적 비대칭이 꼽힌다. 박춘식 서울여대 정보보호학과 교수는 "공격자는 한 번만 취약점을 뚫으면 되지만, 기존 방어 체계는 공격자를 탐지하지 못하면 공격이 있었는지조차 알 수 없어 훨씬 더 많은 비용과 자원이 든다"며 "미토스는 AI와 해킹의 결합으로 전문성과 시간, 비용을 더 낮출 수 있게 돼 그 격차는 더 벌어질 것"이라고 설명했다. 구글도 지난 3월 발표한 '2026년 사이버보안 전망'에서 "AI가 정찰, 취약점 탐색, 공격 코드 개발을 가속해 공격 효율이 대폭 증가할 것"이라고 내다봤다.
특히 금융·통신·공공데이터 등을 다루는 오늘날의 보안망은 클라우드 기반으로 촘촘히 연결돼 있어 자율형 AI 공격으로 인한 피해가 광범위하게 확산될 우려가 크다. 임종인 전 대통령비서실 사이버특별보좌관은 "디도스(DDos)가 외부에서 트래픽을 쏟아부어 서비스를 마비시킨다면, 자율형 AI는 실시간으로 취약점을 찾을 수 있어 더욱 위험하다"고 말했다. 그는 "만약 금융·전력망의 연결통로가 공격받아 반복적으로 오류를 일으키면 전체 금융 결제망이나 전력 송·배전망이 멈출 수도 있다"며 "개인 입장에서는 카드 결제와 송금이 막히고, 정전과 통신 장애가 이어지는 식으로 피해를 체감하게 된다"고 우려했다.
공격 비용 절감이 더해지면 표적이 더 넓어질 수도 있다. 이전에는 중소기업·지역 플랫폼·병원 등의 보안이 취약해도 공격자가 들이는 시간과 비용에 비해 이익이 크지 않아 표적에서 벗어나는 경우가 많았다. 그런데 자율형 AI로 전 공격 과정을 자동화하면 이들도 공격 대상에 포함된다. 권헌영 부회장은 "우리나라는 지난해 4월 SK텔레콤, 8월 KT 등 주요 기업에서 해킹으로 인한 정보보안 침해 사례가 잇따랐는데, 이번 미토스도 그런 흐름의 연장선"이라며 "미토스의 등장은 과거 DDoS 사태처럼 기존 보안체계에 또 하나의 경고를 보내는 신호"라고 해석했다.
미토스의 등장이 던진 진짜 공포감은 더 적은 비용과 시간으로 더 많은 보안 취약점을 찾을 수 있게 된다는 데에서 온다. 따라서 한국 보안 체계 역시 이 속도전에 맞서 방어 체계와 거버넌스를 서둘러 재조정해야 한다는 지적이 나온다. 학계는 비대칭을 상쇄하기 위해 방어 체계 전반의 대규모 투자가 불가피하다고 주장한다. 박춘식 교수는 "자율형 AI 해킹이 본격화되면 기존의 사후 탐지·차단 중심 보안 체계만으로는 속도 면에서 한계가 있을 수밖에 없다"며 "공격이 아예 시도되지 못하도록 사전 억제력을 끌어올리되, 사후 대응 투자를 줄여서도 안 된다"고 말했다. 이어 "사이버 안보든 현대전이든 모든 공격을 100% 차단하는 것은 불가능해지는 추세"라며 "보안망도 공격당했을 때를 가정해 반드시 지켜야 할 핵심 데이터부터 우선순위를 정해 집중 방어해야 한다"고 주장했다.
기술보다 더 큰 병목은 경직된 체계
현재 국내 보안·AI 기술 역량은 세계 최상위권으로 평가받는다. 미국 국방고등연구계획국(DARPA)이 주관하는 '사이버 그랜드 챌린지(CGC)'의 2016년 우승 프로그램 '메이헴(Mayhem)'은 보안 결함 탐지부터 수정 코드 작성·배포까지 자동으로 수행한 자동 해킹·보안 프로그램이었다. 그 엔진을 설계한 핵심 개발진으로 차상길 현 한국과학기술원(KAIST) 전산학부 교수가 참여했다. 미토스가 세상에 공개되기 약 10년 전부터 한국 연구진은 자동화 해킹 기술의 최전선에 있었던 것이다. 지난해 열린 DARPA의 'AI 사이버 챌린지(AIxCC)'에서도 우승팀인 '팀 애틀랜타'는 삼성리서치·KAIST·포스텍(포항공대)·조지아공대 연합팀이었다.
다만 경직된 기술 적용 프로세스가 한국 보안 체계 발전을 지연시킨다고 전문가들은 지적한다. 김승주 교수는 "공격자는 공격에만 집중하면 되는 데 반해 국내 조직의 방어자는 대응 허가를 받기 위해 보고 체계가 이사회까지 올라가야 할 수도 있다"며 "현실적으로 그 과정이 하루 내에 마무리될 수 없어 기술이 아무리 좋더라도 실전에서 제때 막아내기는 힘들다"고 말했다.
현재 국가·공공기관은 클라우드 이용, 데이터베이스 구축, 백업센터 설치 사업 등을 추진할 때 국가정보원(국정원) 보안성 검토 체계를 거쳐야 한다. 이에 더해 2013년 3·20 전산망 마비사태 이후 망분리 규제까지 강화돼 신기술 도입 속도는 늦춰지고, 검증 기준도 예측하기 어려워 현장 대응의 유연성을 떨어뜨린다는 지적이다.
그에 반해 미국은 국가안보와 직결된 일부만 국가안보국(NSA)이 나서고, 이를 제외한 일반 공공 전산 체계의 보안 정책은 국토안보부 산하 사이버·인프라보안청(CISA)과 상무부 소속 국립표준기술연구소(NIST)가 중심에 선다. 이들은 스스로 취약점 기준을 만들고 위협 정보를 서로 공유해 수일~수주 안에 업데이트하도록 조치한다.
한국 정부도 최근 들어 병목을 개선해 대응 체계를 유연화해야 한다는 문제의식을 드러내고 있다. 국정원과 과학기술정보통신부(과기정통부)는 지난 4월 20일 '공공 클라우드 시장 진입 절차 개선 방안'을 발표해 기존 과기정통부와 국정원의 이중 보안검증 절차를 국정원 단일 검증 체계로 일원화하겠다고 밝혔다. 대통령 직속으로 2024년 9월 설립된 국가인공지능전략위원회도 지난 2월 전체회의에서 '보안 취약점 신고·조치·공개 제도 도입 로드맵'을 의결해 위원회 내 '보안 특별위원회'를 신설하기도 했다.
과기정통부 측은 주간조선에 "미토스를 통해 그간 쌓아왔던 보안시스템이 짧은 시간에 무력화될 수 있음을 인지한 상태라 사안을 매우 엄정하게 바라보고 있다"며 "현재 충분한 역량을 갖춘 기업들을 확인했고, 그들에 대한 지원책을 마련하기 위해 관계 부처 및 국내외 기업들과 소통하고 있다"고 밝혔다. 국정원 측은 "국가·공공기관의 안전한 AI 전환을 위해 지난해 12월 'AI 보안 가이드북'을, 지난 3월에는 'AI 공급망 위험 완화방안'을 공개했다"며 "행정안전부와 AI 코딩 보안대책을 포함한 'AI혁신 가이드라인'을 오는 9월 배포할 예정으로, 기술발전에 맞게 보안정책을 지속 개선해나갈 계획이다"라고 밝혔다.
댓글
0