취약점 탐지부터 공격 코드 생성까지 수행하는 클로드 미토스의 등장으로 대응 전략을 재정립해야 한다는 목소리가 나온다. [사진: 셔터스톡]
[디지털투데이 이윤서 기자] 인공지능(AI) 보안 경쟁이 취약점 탐지 능력보다 얼마나 많은 자금을 AI에 투입하느냐의 문제로 옮겨가고 있다는 주장이 나왔다.
20일(이하 현지시간) 온라인 매체 기가진에 따르면 앤트로픽이 이달 초 공개한 보안 특화 AI '클로드 미토스 프리뷰'(Claude Mythos Preview)의 평가 결과를 계기로, 공격자(해커)보다 더 많은 토큰 예산을 써야 시스템을 지킬 수 있다는 문제의식이 확산되고 있다.
논의의 출발점은 앤트로픽이 4월 7일 일부 핵심 소프트웨어 개발사를 상대로 클로드 미토스 프리뷰를 제공하고 있다고 밝힌 데 있다. IT 관련 종사자 드루 브루닉(Drew Breunig)은 처음에는 이 주장에 신중한 태도를 보였다. 보안 분야는 AI가 실제로 취약점을 찾아냈는지 비교적 사후 검증이 가능하고, 대량의 토큰을 투입하면 인상적인 성공 사례도 만들기 쉽다고 봤기 때문이다. 하지만 이후 영국 정부의 AI 보안 연구기관인 AI 시큐리티 인스티튜트(AISI)는 "해당 모델은 사이버 분야 성능에서도 기존 모델을 한 단계 넘어섰다"고 평가했다.
브루닉이 특히 주목한 것은 기업 네트워크 공격 과정을 재현한 '더 라스트 원스'(The Last Ones) 테스트다. 이 테스트는 정보 수집부터 네트워크 전체 장악까지 32개 과제로 구성됐고, 클로드 미토스 프리뷰와 GPT-5.4 등 여러 모델이 비교 대상에 올랐다.
조건도 가벼운 수준은 아니었다. 각 시험은 최대 1억토큰까지 처리하도록 설계됐다. 이 범위 안에서 32개 과제를 모두 끝낸 모델은 클로드 미토스 프리뷰뿐이었다. 이 모델은 10차례 테스트 중 3차례 전체 과제를 완료했다. AISI는 클로드 미토스 프리뷰가 1억토큰에 도달한 시점에도 성과 개선이 둔화되지 않은 경우가 있었다고 밝혔다.
비용 부담도 함께 드러났다. 앤트로픽은 이 모델을 입력 100만토큰당 25달러(약 3만7000원), 출력 100만토큰당 125달러(약 18만4000원)에 제공한다. 조건대로라면 최대 1억토큰을 쓰는 시험 10회를 진행할 때 1만2500달러(약 1840만원) 수준이다. 브루닉은 이러한 점을 근거로 "방어 쪽은 해커가 취약점을 악용하기 전에 더 많은 토큰을 써서 먼저 취약점을 찾아야 한다"고 주장했다.
이 주장은 소프트웨어 개발 방식에도 변화를 예고한다. 브루닉은 AI 에이전트가 코드를 작성하는 환경에서 개발 업무가 '개발', '리뷰', '안전성 강화'의 세 단계로 분리될 가능성이 크다고 봤다. 기능을 빠르게 만드는 단계는 인간의 판단과 이용자 반응이 제약이 되지만, 취약점을 찾아 없애는 단계는 예산이 핵심 제약이 된다는 것이다. 그는 코드 작성 자체는 계속 저렴해지겠지만, 만든 코드를 안전하게 만드는 일은 별개의 비용 구조를 갖게 될 것이라고 짚었다.
일각에서는 외부 의존성을 줄이고 필요한 기능을 대규모언어모델(LLM)로 직접 구현해야 한다는 주장도 나온다. 다만 그는 곧바로 의존성을 버려야 한다는 뜻은 아니라고 했다. 기업이 오픈소스 라이브러리에 충분한 토큰을 투입해 감사를 수행하면, 각각을 자체 구현하는 것보다 더 안전할 가능성도 있다는 판단이다. 반면 널리 쓰이는 오픈소스는 해커에게도 가치가 큰 만큼, 해커의 투자도 함께 커질 수 있다는 점은 변수로 남겼다.
시장과 개발자 커뮤니티 반응은 엇갈렸다. 해커뉴스에서는 AISI의 평가만으로 방어에는 더 많은 토큰이 필요하다고 일반화하기엔 이르다는 신중론이 나왔다. 형식 기법 같은 다른 방어 수단을 함께 봐야 한다는 지적이다.
반대로 방어 쪽은 소스코드 전체와 변경분을 주기적으로 묶어 점검할 수 있어 해커보다 효율적으로 움직일 수 있고, 그 결과 소프트웨어 안전성이 오히려 높아질 수 있다는 의견도 제기됐다.
이번 평가의 한계도 분명하다. AISI는 "테스트 내용에 'AI 모델이 보안 경보를 유발하는 행동을 해도 불이익이 없다'는 조건이 포함돼 있었다"고 밝혔다. 따라서 능동형 보안 도구와 보안 담당자가 실제로 작동하는 충분히 방어된 시스템까지 공격할 수 있는지는 단정할 수 없다고 했다. 이런 제약에도 불구하고, AI 기반 보안 경쟁이 기술 성능만이 아니라 토큰과 비용을 얼마나 감당할 수 있는지의 문제로 옮겨가고 있다는 점은 이번 평가가 남긴 핵심 쟁점으로 남고 있다.
댓글
0