[IT큐레이션] 하늘에서 공포의 대왕 AI 미토스가 강림하리니

과학기술정보통신부가 앤트로픽 및 오픈AI가 최신 인공지능(AI) 모델을 사이버보안에 활용하는 프로젝트를 출범한 것과 관련해 14일 긴급 현안점검회의를 개최했다. 류제명 제2차관 주재로 이동통신 3사와 네이버, 카카오, 우아한형제들, 쿠팡 등 주요 플랫폼사 정보보호 최고책임자(CISO)가 참석했으며 같은 날 오후 5시에는 최우혁 정보보호네트워크정책실장 주재로 국내 AI 보안전문가들과 별도 회의를 열어 향후 대응방향을 논의했다.

청와대 국가안보실 역시 민·관·군 주관 부처에 긴급 대응을 주문한 상태다. 배경훈 부총리 겸 과기정통부 장관은 "고성능 AI 기반 사이버보안 서비스의 등장은 보안 수준의 획기적 향상의 기회가 됨과 동시에 악용될 경우 큰 위험이 될 수 있음을 보여준다"며 "우리나라의 기업, 기반시설 등이 위와 같은 위협에 노출되지 않으면서 사이버 보안 역량을 향상시킬 수 있어야 할 것"이라 말했다. 나아가 "민·관이 합동으로 우리나라의 사이버 보안 생태계 고도화를 위해 노력하자"고 강조했다.

한국만 긴장한 것이 아니다. 7일(현지시간) 미국에서는 스콧 베선트 재무장관과 제롬 파월 연방준비제도(Fed) 의장이 골드만삭스, JP모건, 시티뱅크, 모건스탠리 등 주요 은행 최고경영자(CEO)들과 긴급 전화회의를 소집해 AI 기반 사이버 리스크 대응 상황을 점검했다.

영국에서도 영란은행과 금융행위감독청(FCA), 국가사이버보안센터(NCSC)가 공동으로 긴급 리스크 평가에 착수했고 캐나다 중앙은행도 미토스가 찾아낸 수천건의 취약점이 금융 시스템에 미칠 영향을 평가하고 있다. 크리스탈리나 게오르기에바 국제통화기금(IMF) 총재는 CBS 인터뷰에서 "국제 금융 시스템을 대규모 사이버 공격으로부터 보호할 준비가 충분하지 않다"고 우려를 표명했다.

무슨 일이 벌어지고 있는 것일까? 앤트로픽이 7일 공개한 차세대 AI 모델 '클로드 미토스(Claude Mythos)'에 주목할 필요가 있다.

앤트로픽. 사진=갈무리

취약점 10번 찔러 8번 뚫은 AI

미토스는 기존의 챗GPT나 클로드, 제미나이처럼 사용자 지시에 따라 수동적으로 작동하는 AI가 아니다. 스스로 조사하고 코딩하며 테스트와 보고까지 전 과정을 자율적으로 수행하는 에이전트형 모델이다. 앤트로픽가 미토스를 출시하며 "지금까지 개발한 AI 중 가장 강력하다"고 설명한 배경에는 이러한 자율성이 있다.

성능 지표도 심상치않다. 박사급 난이도 문제를 모은 '인류의 마지막 시험(HLE)' 벤치마크에서 정답률 56.8%를 기록했다. AI 모델 중 처음으로 50%를 넘긴 것으로 이전 최고 기록이었던 구글 제미나이3 딥싱크(48.4%)와 앤트로픽의 전작 클로드 오퍼스 4.6(40%)을 크게 앞섰다.

코딩 능력 평가(SWE-bench)에서도 93.9%를 기록해 클로드 오퍼스 4.6(80.8%), 제미나이 3.1 프로(80.6%), GPT-5.2(80%)를 압도했다.

더 충격적인 것은 보안 분야의 수치다. 취약점을 찾아내는 지표에서 미토스는 83.1%를 기록했다.

10번 공격해 8번 이상 뚫었다는 뜻이다. 실제로 미토스는 철통 보안의 대명사로 통하는 오픈BSD 운영체제에서 1998년부터 27년간 잠복해 있던 결함을 단숨에 찾아냈다. 오류 검색 도구가 500만번 넘게 검사하고도 발견하지 못한 16년 된 취약점도 잡아냈다. 인간 전문가가 수개월에 걸쳐 수행해야 할 작업을 단 이틀, 약 2만달러(약 3000만원)의 컴퓨팅 비용으로 해치운 셈이다.

미토스의 능력은 취약점 탐지에 그치지 않는다. 개발자조차 알지 못하는 보안 결함, 이른바 제로데이 취약점을 찾아낸 뒤 이를 실제 해킹에 활용할 수 있는 공격 코드까지 스스로 작성한다. 실제로 앤트로픽이 수주간 테스트를 진행한 결과 모든 주요 운영체제(OS)와 웹 브라우저에서 수천건의 고위험 취약점이 발견됐다.

원격 서비스 거부(DoS) 공격, 스마트폰 루팅 펌웨어 취약점, 데스크톱 권한 상승 익스플로잇 체인 등이 포함됐고 소스 코드가 비공개인 클로즈드 소스 소프트웨어도 역공학을 통해 취약점을 식별하는 수준에 이르렀다.

성능만큼이나 우려를 키운 것은 미토스가 보인 '탈옥' 행동이다. 통제가 어렵다. 실제로 미토스는 테스트 과정에서 가상의 격리 공간을 스스로 탈출해 인터넷에 접속하거나 관리자 권한을 얻기 위해 시스템 내부 정보를 뒤지는 모습이 포착됐다.

심지어 보안 장치를 우회한 뒤 관련 흔적을 지워 자기 행동을 숨기려는 시도까지 확인됐다. 앤트로픽은 이러한 행동이 악의가 아닌 과도한 목표 지향성에서 비롯된 것이라고 설명했지만 인간의 통제를 벗어나는 자율적 판단이 가능하다는 것은 그 자체로 심상치 않다는 말이 나온다.

앤서니 그리에코 앤트로픽 수석부사장 겸 최고보안책임자(CSTO)는 공식 블로그에서 "AI 역량이 임계점을 넘어서 핵심 인프라 보호의 시급성이 근본적으로 달라졌고 이제는 되돌릴 수 없는 단계에 들어섰다"고 밝혔다.

앤트로픽이 미토스를 일반에 공개하지 않고 폐쇄형으로 운영하겠다고 선언한 것도 이 때문이다. 대신 앤트로픽은 '프로젝트 글래스윙(Project Glasswing)'을 출범시켜 구글, 애플, 아마존웹서비스(AWS), 마이크로소프트, 엔비디아 등 12개 빅테크 파트너사와 40개 기관에만 미토스 프리뷰 버전을 제공했다.

모델 사용권 규모만 최대 1억달러(약 1480억원)이며 앤트로픽은 이와 별도로 오픈소스 보안 단체에 400만달러(약 60억원)를 기부할 계획이다. AI 기업이 완성된 모델의 공개를 안전 문제를 이유로 보류한 것은 2019년 오픈AI의 GPT-2 이후 처음이다.

다만 일각에서는 비판도 나온다. 유명 해커 조지 호츠는 "극소수 기업이 지능을 독점하면 나머지는 영구적 하층 계급으로 전락할 것"이라고 경고했고 보안 업계에서도 대중 참여와 정보 공개를 통해 취약점을 빠르게 수정해 온 관행이 폐쇄 정책으로 훼손될 수 있다는 우려가 나온다. 하이디 클라프 AI 나우 인스티튜트(AI Now Institute) 수석 과학자는 앤트로픽의 발표에 오탐률 등 검증에 필요한 핵심 정보가 빠져 있다며 "액면 그대로 받아들이지 말라"고 지적하기도 했다.

한편 금융 당국 및 기관들은 미토스의 등장에 패닉에 빠졌다.

글로벌 금융 시스템은 스위프트, 신용카드 네트워크, 대형 은행 전산망 등으로 상호 연결돼 있어 특정 지점의 장애가 연쇄적인 거래 중단으로 이어질 수 있다. 특히 은행은 결제·청산·자금이체 등 실시간 인프라를 운영하고 있어 단일 취약점이 전체 시스템으로 확산될 가능성이 높고, 보안 사고가 유동성 위기나 뱅크런으로 전이될 수 있는 구조를 갖추고 있다. 미토스의 공격에 취약할 수 밖에 없다는 뜻이다.

'이이제이' 전략까지 제시되는 등 분위기가 미묘하게 돌아가는 이유다. 실제로 미국 행정부가 금융권 CEO들에게 은행 시스템 보안 강화를 위해 미토스 활용을 권고한 것으로 전해지면서 AI가 사이버 공격의 무기이자 방어의 도구가 되는 딜레마가 현실화했다는 분석이 나온다. 월스트리트저널은 11일(현지시간) 션 케언크로스 백악관 국가사이버국장이 관계 부처 당국자들과 함께 AI가 악용할 수 있는 정부 시스템 강화 작업을 진행하고 있다고 보도하기도 했다.

13일 국내에서도 금융감독원이 주요 은행 등 금융권 정보보호·보안 실무자들을 긴급 소집해 AI발 보안 위협에 대한 점검회의를 개최했다.

사진=연합뉴스

AI 보안 경쟁의 서막

미토스 쇼크가 판을 흔드는 가운데 이제 그 강도와 빈도는 점점 강해지고 잦아질 전망이다. 로건 그레이엄 앤트로픽 프런티어레드팀 책임자는 "미토스와 비슷한 수준의 모델이 6~18개월 안에 여러 연구소에서 등장할 것"이라며 "이런 수준의 능력이 세상에 들어오기 전에 방어자들에게 앞서 쓸 기회를 줘야 한다"고 밝혔다.

오픈AI를 비롯한 경쟁사들도 유사한 보안 특화 AI 개발에 나선 상태여서 AI 기업 간 경쟁 축이 성능에서 보안으로 이동하고 있다는 해석이 나온다.

국내에서도 과기정통부가 지난해부터 독자 AI로 공급망 위협에 대응하고 외부 공격 피해를 스스로 복원하는 'AI 사이버 쉴드 돔' 프로젝트를 진행 중이다. 김창오 정보통신기획평가원(IITP) 사이버보안 PM은 "보안은 자주국방과 직결되는 부분이어서 자체적인 기술로 AI가 공격과 방어를 할 수 있는 것이 중요하다"며 "해외 기술과 경쟁할 수 있도록 자체적 기술을 준비하고 있다"고 밝혔다.

AI가 소프트웨어 취약점 발견과 익스플로잇 능력에서 최고 수준 인간 전문가에 필적하거나 초월하는 수준에 도달했다는 사실은 이미 확인된 상태다. 공격 능력과 방어 능력이 동일한 기술에서 비롯되는 만큼, 방어자가 먼저 이 도구를 확보하느냐가 향후 사이버보안 판도를 좌우할 핵심 변수가 될 전망이다.