[MS투데이] 앤트로픽의 보안 특화 인공지능(AI) 모델 ‘클로드 미토스 프리뷰’가 기존 자동화 보안 스캐너를 뛰어넘는 수준의 취약점 분석 능력을 보였다는 평가가 나왔다. 단순 버그 탐지를 넘어, 여러 취약점을 연결해 실제 침투 경로를 구성하는 역량까지 확인됐다는 점에서 업계의 관심이 쏠리고 있다.
글로벌 네트워크 인프라 기업 클라우드플레어는 최근 자사 내부 코드 저장소 50여 곳에 미토스 프리뷰를 적용해 성능을 검증한 결과를 공개했다. 이번 테스트는 앤트로픽이 주요 기업·기관과 함께 운영하는 AI 보안 협력체 ‘프로젝트 글래스윙’의 일환으로 진행됐다. 해당 프로젝트에는 글로벌 빅테크와 보안 기업들이 참여해 모델의 위험성과 활용 가능성을 공동 검증하고 있다.
클라우드플레어는 보고서에서 “미토스 프리뷰는 분명한 진전”이라며 기존 범용 AI 모델과는 다른 수준의 분석 능력을 보였다고 평가했다.
작은 버그 연결해 ‘실전 공격 경로’ 구성
이번 실험에서 가장 주목받은 부분은 ‘익스플로잇 체인’ 구성 능력이다. 기존 AI 모델이 개별 취약점을 찾아내는 데 그쳤다면, 미토스 프리뷰는 위험도가 낮아 보이는 여러 소규모 취약점을 연결해 실제 공격이 가능한 경로를 도출했다.
이는 자동 스캐너가 출력하는 단편적 경고 메시지와 달리, 숙련된 보안 연구자가 복합 취약점을 분석해 침투 전략을 짜는 방식과 유사하다는 평가다.
또한 미토스 프리뷰는 취약점 발견에 머물지 않고, 해당 결함이 실제로 악용 가능한지를 입증하는 개념증명(PoC) 코드까지 직접 생성했다. 의심되는 버그를 유발하는 코드를 작성한 뒤, 임시 실행 환경에서 테스트를 반복하고, 실패하면 가설을 수정해 재시도하는 과정을 스스로 수행했다. 이 같은 반복적 추론 과정은 기존 자동화 도구와 뚜렷한 차이를 보였다.
클라우드플레어는 특히 오탐(false positive)이 줄어들었다는 점도 긍정적으로 평가했다. 취약점과 함께 검증 코드를 제시함으로써, 사람이 일일이 진위를 가려야 하는 부담이 상당 부분 감소했다는 설명이다.
가드레일 한계…“방어와 공격, 양날의 검”
다만 한계도 확인됐다. 모델에 내장된 안전장치(가드레일)가 일관되게 작동하지 않는 사례가 있었다는 것이다. 동일한 코드 분석 요청을 처음에는 거부했다가, 환경 설정이나 질문 방식을 일부 변경하자 수행하는 경우가 발생했다.
또 특정 메모리 취약점을 발견하고도 실제 익스플로잇 코드 생성을 거부했다가, 요청을 변형하자 응답하는 등 통제의 일관성이 부족한 모습도 나타났다. 이는 방어 목적의 연구 과정에서도 제약이 발생할 수 있음을 의미한다.
더 큰 문제는 모델의 역량이 방어와 공격 모두에 활용될 수 있다는 점이다. 클라우드플레어는 보고서에서 “자사 코드의 취약점을 찾는 데 사용된 동일한 능력이 악의적 행위자에게 넘어갈 경우 인터넷 전반의 공격을 가속화할 수 있다”고 경고했다.
AI 확산으로 취약점 발견에서 실제 공격까지 걸리는 시간도 급격히 단축되고 있다. 과거에는 수개월이 소요되던 과정이 이제는 수분 단위로 줄어들 수 있다는 분석이다.
“보조 도구로는 강력…구조적 방어 병행해야”
사이버 보안 분야 전문가는 “미토스 수준의 모델은 자동 점검 도구를 넘어 연구자 보조 수준까지 접근하고 있다”며 “다만 현재 단계에서는 인간을 대체하기보다 초기 탐색과 검증을 지원하는 도구로 활용하는 것이 현실적”이라고 말했다.
그는 이어 “패치 속도를 높이는 것만으로는 충분하지 않다”며 “애플리케이션 접근 제어 강화, 코드 결함 확산 방지, 배포·수정 체계 고도화 등 구조적 방어 설계가 병행돼야 AI 기반 공격에 대응할 수 있다”고 지적했다.
AI 보안 경쟁, ‘성능’ 넘어 ‘통제’로
미토스 프리뷰의 성능은 보안 AI가 새로운 단계에 진입했음을 보여준다. 그러나 동시에 AI 기반 공격 자동화라는 또 다른 위험도 부각시키고 있다.
업계에서는 향후 이러한 고성능 보안 모델이 일반에 공개되기 위해서는 현재 수준 이상의 안전장치와 통제 메커니즘이 필수적이라는 의견이 나온다. AI 보안 경쟁의 초점이 이제 단순 성능 향상이 아니라, 얼마나 정교하게 통제하고 관리할 수 있는지로 이동하고 있다는 분석이다.
보안을 강화하기 위해 등장한 AI가 새로운 위협의 촉매가 될지, 아니면 방어의 판도를 바꿀 도구가 될지는 앞으로의 설계와 운영 방식에 달려 있다.
댓글
0