“여러 작은 결함 연계해 취약점 발견·익스플로잇 생성·공격 가능성 검증 기능 갖춰”
반복 추론 루프를 통해 익스플로잇 작동 가능성 검증
가드레일 일관성 부족···통제된 환경 밖에서 사용하기에 적절치 않아
[데이터넷] 앤트로픽의 미출시 범용 프런티어 AI 모델 ‘클로드 미토스 프리뷰(Claude Mythos Preview)’가 여러 보안 취약점을 연결해 실제 작동 가능한 익스플로잇을 자동으로 생성하고, 이를 직접 증명하는 능력을 갖춘 것으로 나타났다.
이는 클라우드플레어가 자사 50여 개 코드 리포지토리에 미토스 프리뷰를 적용한 테스트 결과를로, 미토스는 익스플로잇 체인 구성 능력이 뛰어나다는 것이 확인됐다.
다른 프런티어 모델도 동일한 테스트 환경에서 상당수의 버그를 찾아냈고, 일부는 예상보다 뛰어난 추론 능력을 보였다. 그러나 여러 취약점을 연결하는 단계에서 한계를 드러냈으며, 버그를 식별하고 그 중요성을 설명하는 수준에서 그쳤다. 익스플로잇 체인을 완성하거나 실제 공격 가능성 여부를 확인하는 단계에는 도달하지 못했다.
미토스 프리뷰는 백로그에 쌓여 눈에 띄지 않던 낮은 심각도의 버그 여러 개를 연결해 단일한 고위험 익스플로잇으로 만들고, 개념증명(PoC) 코드를 직접 작성·컴파일·실행해 실제 공격 가능성을 스스로 검증한다.
익스플로잇이 예상대로 작동하지 않을 경우에는 가설을 수정하고 재시도하는 반복 추론 루프를 수행한다. 클라우드플레어는 모델이 추론 과정에서 보여주는 결과물은 자동화 스캐너의 출력이 아니라 시니어 연구원의 작업처럼 보인다고 평가했다.
클라우드플레어가 테스트를 위해 구축한 취약점 발견 하네스 구조
노이즈 줄여 정확한 취약점 대응 가능
클라우드플레어는 이 테스트를 위해 50여개의 에이전트를 병렬로 작동시켰으며, 별도의 에이전트가 각 발견 사항에 대한 적대적 검토를 수행하는 다단계 하네스 구조를 구축했다. 또한 동일한 근본 원인에서 비롯된 중복 보고서는 그룹화해 오탐과 중복을 줄였다. 그 결과 재현 단계가 명확하고, PoC가 함께 제공되는 실질적으로 대응 가능한 보고서를 생성할 수 있었다.
일반 코딩 에이전트는 함수 수정이나 소규모 기능 추가에 최적화돼 있지만, 코드베이스 전반에 흩어진 단서를 연결해 취약점을 추출하는 데 한계가 있다. 미묘한 논리적 결함을 단순한 스타일 문제로 인식하고 넘어가기 쉬우며, 가드레일로 인해 익스플로잇 동작을 직접 확인하지 못하는 구조적 제약도 있다.
보안 취약점은 코드를 읽는 것만으로 찾을 수 없으며, 코드를 직접 실행하고 예상치 못한 입력을 추가하고 오류 메시지를 확인하며 보안 테스트 도구를 활용하는 연쇄적인 사고 과정이 필요하다. 미토스는 이 점에서 특화된 차별점을 보인다.
다만 실제 취약점과 오탐(false positive)을 구분하기 위해 인간이 개입해 검토해야 하는 경우도 다수 존재했다. 특히 C/C++처럼 메모리 안전성이 보장되지 않는 언어 환경에서는 추정성 경고가 과도하게 발생하는 경향이 나타났다. 이로 인해 미토스는 초기 탐색 단계에서는 유용하게 활용될 수 있지만, 잠재적 취약점을 과도하게 탐지하는 경향 때문에 담당자들의 검토 부담을 키울 수 있는 것으로 나타났다.
동일한 요청에도 가드레일 작동 일관성 부족
이번 테스트에 사용된 미토스 프리뷰는 글래스윙 프로젝트를 통해 연구 목적으로 제공된 버전으로, 일반 공개 모델인 오퍼스 4.7(Opus 4.7) 등에 적용된 추가 안전장치가 포함되지 않은 상태였다. 모델 내부의 자체 가드레일은 존재하지만 일관성이 부족하다.
처음에는 특정 프로젝트의 취약점 연구를 거부하다가 무관한 변화가 생기자 동일한 코드에 대한 연구를 수락하거나, 심각한 메모리 버그를 확인하고도 시연용 익스플로잇 작성을 거부하는 사례가 확인됐다. 의미적으로 동일한 요청도 표현 방식이나 시점에 따라 상반된 결과가 나올 수 있다는 점도 관찰됐다.
클라우드플레어는 “모델의 내재적 거부 메커니즘과 안전장치는 실제로 존재하지만, 완벽한 안전 경계를 형성하기에는 일관성이 부족하다”며 “미래에 일반적으로 제공될 유능한 사이버 프런티어 모델에는 글래스윙 프로젝트 같은 통제된 연구 환경 밖에서도 적절하게 사용될 수 있도록 이 기본 동작 외에 추가 안전장치가 반드시 포함되어야 한다”고 설명했다.
한편 글래스윙 프로젝트는 앤트로픽이 미토스의 능력이 방어 진영에 먼저 활용될 수 있도록 설계한 이니셔티브로, 클라우드플레어를 포함한 IT·보안 전문 기업과 기관 40여곳이 참여하고 있다. 앤트로픽은 이 프로젝트에 최대 1억 달러 규모의 사용 크레딧을 제공하고, 오픈소스 보안 단체에는 400만 달러를 직접 기부하기로 했다. 참여 기관이 확보한 연구 결과는 업계 전체가 공유할 수 있도록 공개한다.
한편 클라우드플레어는 지난 몇 달간 자사 인프라의 핵심 영역에 미토스 프리뷰를 포함한 다양한 보안 중점 LLM을 테스트하고, 그 결과를 공개하고 있다.
Tag
댓글
0