사이버 보안의 패러다임이 바뀌고 있다.
지금까지 취약점 탐지는 숙련된 보안 연구자의 영역이었다. 수십만 줄의 커널 코드를 뒤지고, 파일 간 연관성을 추적하며 레이스 컨디션처럼 재현조차 까다로운 결함을 포착하는 일은 인간 전문가의 직관과 경험에 크게 의존해왔다.
그 경계가 무너지고 있다. AI가 단일 모델 수준의 코드 검토를 넘어, 100개 이상의 전문 에이전트가 역할을 나눠 발견·검증·증명까지 이어지는 엔드투엔드 파이프라인으로 실제 치명적 취약점을 잡아내는 단계에 진입했다. 마이크로소프트가 이번에 공개한 MDASH는 AI 보안 도구가 연구 실험실의 산물이 아닌 실전 엔지니어링 자산으로 전환되는 변곡점을 보여주는 사례다.
마이크로소프트는 AI 기반 에이전틱 보안 분석 시스템 'MDASH(Multi-model Agentic Scanning Harness)'를 18일 공개했다.
자율 코드 보안(ACS) 팀이 개발한 이 시스템은 100개 이상의 전문 AI 에이전트가 취약점 발견부터 교차 검증·증명까지 전 과정을 자동으로 수행하도록 설계됐다. 마이크로소프트는 MDASH를 활용해 윈도우 네트워킹 및 인증 스택에서 신규 취약점 16건을 식별했으며, 이 가운데 4건은 원격 코드 실행이 가능한 치명적 취약점으로 분류됐다.
취약점이 발견된 구성요소는 윈도우 커널 TCP/IP 스택과 IKEv2 서비스 등 핵심 네트워크 인프라에 집중됐다. 16건 가운데 10건은 커널 모드, 6건은 유저 모드에서 발견됐다. 상당수는 인증 없이 네트워크를 통해 접근 가능한 경로에서 식별됐다는 점에서 위험도가 높다. 해당 취약점들은 5월 패치 화요일을 통해 수정됐다.
MDASH의 핵심 구조는 5단계 자동화 파이프라인이다. 소스 분석과 위협 모델링을 수행하는 준비 단계를 시작으로 전문 감사 에이전트가 후보 취약점을 탐지하는 스캔 단계, 별도 에이전트 집단이 각 발견의 도달 가능성과 악용 가능성을 놓고 찬반 토론을 벌이는 검증 단계, 의미상 중복을 제거하는 중복 제거 단계, 그리고 실제 취약점 재현 입력을 구성해 존재를 증명하는 증명 단계로 이어진다.
단일 모델 방식과의 차이는 이 파이프라인 구조에서 나온다. 프런티어 모델과 증류 모델을 결합한 앙상블 아키텍처를 적용해 각 단계마다 최적의 모델 조합을 활용한다.
모델 간 판단이 엇갈릴 경우 이를 신뢰도 신호로 활용하는 방식도 특징적이다. 감사 에이전트가 이상 징후를 포착하고 토론 에이전트가 반박에 실패할수록 해당 발견의 신뢰도가 높아지는 구조다. 100개 이상의 전문 에이전트 각각은 과거 공통 취약점 및 노출 사례와 패치 이력을 기반으로 구성됐으며, 독립적으로 탐지한 결과를 앙상블 방식으로 통합해 최종 보고서를 생성한다.
이번에 공개된 대표 사례 두 건은 단일 모델 시스템이 왜 이 취약점들을 놓쳤는지를 설명해준다. CVE-2026-33827은 tcpip.sys의 IPv4 수신 경로에서 발생하는 레이스 컨디션 기반 UAF(Use-after-free) 취약점이다. 참조 계산 방식의 Path 객체 수명 관리 오류로 인해 발생하며, 공격자가 SSRR 옵션을 담은 조작된 IPv4 패킷을 전송해 인증 없이 원격에서 커널 메모리를 손상시킬 수 있다.
사진=MS
마이크로소프트 측은 이 취약점이 단일 함수 내에서 해제 시점과 재사용 시점 사이에 비자명한 제어 흐름이 끼어 있어 단순 패턴 매칭으로는 탐지가 불가능하다고 설명했다. 여러 독립적 서브시스템이 동시에 객체를 해제할 수 있는 동시성 모델까지 고려해야 취약점의 실현 가능성이 드러나기 때문이다.
CVE-2026-33824는 IKEEXT 서비스에서 발견된 더블 프리(double-free) 취약점이다. IKEv2 SA_INIT 처리 과정에서 재조합된 패킷의 수신 컨텍스트를 복사할 때 발생하는 소유권 오류가 원인이다. 얕은 복사로 인해 두 개의 컨텍스트가 동일한 힙 할당을 가리키게 되고, 각각이 해제를 시도하면서 더블 프리가 발생한다.
IKEEXT는 LocalSystem 권한으로 실행되기 때문에 이 취약점은 인증 없이 원격에서 최고 권한 코드 실행으로 이어질 수 있다. 이 취약점은 여섯 개의 소스 파일에 걸쳐 분산된 형태여서 단일 파일 분석으로는 탐지가 불가능했고, 동일 코드베이스의 다른 위치에 존재하는 올바른 패턴과 대조해야만 결함이 드러나는 구조였다고 마이크로소프트는 밝혔다.
실전 성능을 뒷받침하는 수치도 공개됐다. 마이크로소프트는 비공개 장치 드라이버 '스토리지드라이브(StorageDrive)'에 의도적으로 주입한 취약점 21건 전체를 오탐 없이 식별하는 데 성공했다. 스토리지드라이브는 외부에 공개된 적 없는 비공개 코드베이스로, 사전 학습 데이터 오염 가능성을 원천 차단한 조건에서의 테스트다.
과거 보안 대응 사례 기반의 회고 평가에서는 공통 로그 파일 시스템(clfs.sys) 5개년 MSRC 확정 사례 28건에 대해 96%, tcpip.sys 7건에 대해 100%의 재현율을 기록했다.
공개 벤치마크 성적도 주목된다. MDASH는 188개 오픈소스 퍼징 프로젝트에서 추출한 실제 취약점 1507건으로 구성된 사이버짐(CyberGym) 벤치마크에서 88.45%의 성공률로 리더보드 1위를 기록했다. 2위(83.1%)와의 격차는 약 5포인트다.
실패한 약 12% 가운데 잘못된 코드 영역을 겨냥한 사례의 82%는 함수나 파일 식별자 없이 설명이 모호한 과제에서 집중 발생했다. 입력 형식 불일치, 즉 libFuzzer 방식으로 입력을 구성했으나 과제가 honggfuzz 형식을 요구하는 경우에도 재현 실패가 나타났다. 과제 설명의 품질과 입력 형식 호환성이 탐지 정확도에 직접 영향을 준다는 분석이다.
마이크로소프트가 MDASH를 설계하면서 가장 강조하는 원칙은 모델 독립성이다. 파이프라인의 타깃팅·검증·중복 제거·증명 단계는 특정 모델에 종속되지 않도록 설계됐다. 새 모델이 출시되더라도 파이프라인 전체를 재구축할 필요 없이 설정을 변경하고 A/B 테스트를 재실행하는 것으로 반영된다.
프로젝트별 컨텍스트, 스캔 플러그인, 증명 에이전트 구성은 모델 교체와 무관하게 유지된다. 6개월마다 모델 성능 경쟁이 재편되는 AI 시장에서, 특정 모델에 의존하는 시스템은 주기적으로 재구축해야 하는 반면 MDASH는 그 비용을 흡수하도록 설계됐다는 설명이다.
구글이 프로젝트 제로를 통해 수동 취약점 연구를 심화하고, 크라우드스트라이크·팔로알토네트웍스 등 보안 전문 기업들이 AI 기반 위협 탐지에 적극 투자하는 상황에서 마이크로소프트는 취약점 발굴 자동화라는 방어의 시작점을 AI로 전환하는 데 앞장서는 셈이다.
기존 퍼징 도구나 정적 분석 솔루션이 단일 기법에 의존해온 것과 달리, 수백 개의 에이전트가 협업하는 다단계 파이프라인은 복잡도가 높은 커널 취약점 탐지에서 구조적 우위를 가질 수 있다는 가능성을 실전 데이터로 보여줬다.
김태수 마이크로소프트 에이전틱 보안 부사장은 "MDASH는 마이크로소프트 엔지니어링 팀이 상용 AI 모델을 활용해 보안 성과를 실질적으로 개선하는 데 도움을 주고 있다"며 "앞으로도 모두에게 더 안전한 세상을 만들기 위한 노력을 이어갈 것"이라고 밝혔다.
현재 MDASH는 마이크로소프트 보안 엔지니어링 팀 내부에서 운용 중이며 일부 고객을 대상으로 한정 비공개 프리뷰가 병행 진행 중이다. 참여 신청은 마이크로소프트 공식 웹페이지를 통해 가능하다. AI 취약점 탐지가 연구 단계를 벗어나 기업 규모의 실전 방어 체계로 이식되는 속도가 빨라지고 있다. MDASH가 그 전환의 기준점이 될 수 있을지, 업계의 시선이 쏠린다.
댓글
0