앤트로픽./사진=AP 연합뉴스
[인더스트리뉴스 서영길 기자] 대화형 인공지능(AI)을 넘어 스스로 취약점을 찾고 공격까지 수행하는 ‘자율 해킹 AI’가 현실로 등장하면서 글로벌 보안에 비상경고음이 울려퍼지고 있다.
인간의 분석 속도를 압도하는 초고성능 모델이 잇따라 공개되며, 사이버 방어 체계 전반의 재설계 필요성이 급부상하는 분위기다.
16일 IT업계에 따르면 미국 AI 기업 앤트로픽이 제한적으로 공개한 차세대 모델 ‘클로드 미토스 프리뷰’는 자율형 에이전트 기반으로 작동하며, 단순한 명령 수행을 넘어 스스로 ‘보안 취약점’을 탐지하고 이를 공격 시나리오로 확장하는 능력을 갖춘 것이 핵심이다.
이 모델은 보안 중심 운영체제인 ‘오픈BSD’에서 27년간 발견되지 않았던 설계 결함을 찾아낸 데 이어, 서비스 거부(DoS) 공격까지 수행할 수 있는 수준으로 평가된다. 특히 기존에는 수개월이 걸리던 취약점 탐지와 악용 과정을 수시간 단위로 단축시켰다는 점이 성과로 꼽힌다.
영국 AI 안전연구소(AISI)는 미토스가 기업망 공격 시나리오를 처음부터 끝까지 자율적으로 수행했다는 분석을 내놓아 충격을 안겨줬다. 외부 침투에서 내부 이동, 권한 상승, 데이터 탈취에 이르는 복합 공격의 전 과정을 인간 개입 없이 AI 스스로 실행했다는 평가가 나온다.
이에 앤트로픽 측은 “소프트웨어의 보안 결함과 취약점을 탐지하는 능력이 뛰어나 해커나 범죄집단이 해킹 등에 악용할 수 있다”며 “미토스를 일반에 공개할 수 없다”고 밝힌 후, 구글과 애플 등 12개 빅테크 기업과 40여 개 기관에만 제한적 접근이 가능하도록 조치했다. 이들 기업은 자사 시스템 방어에 미토스를 활용한 뒤 이르면 7월쯤 결과를 공유할 예정이다.
이 같은 충격은 경쟁사 행보로 이어지고 있다. 오픈AI는 지난 14일(현지시간) 소프트웨어 보안 취약점 탐지에 특화된 ‘GPT-5.4-사이버’를 공개했다. 이 모델은 소스코드 없이 실행파일만으로 내부 구조를 분석하는 ‘2진 역공학(바이너리 리버스 엔지니어링)’ 기능을 갖췄다.
기존에는 수만 줄의 기계어 코드를 사람이 일일이 대조해야 했다면, 이제는 AI가 단 몇 분 만에 숨겨진 취약점과 악성코드를 찾아낸다. 오픈AI 측은 “30년 된 보안 체계도 AI 입장에서는 1분짜리 퍼즐에 불과하다”고 밝히며 압도적인 분석 속도를 강조했다.
해당 모델은 ‘신뢰할 수 있는 접근(TAC)’ 프로그램을 통해 검증된 전문가에게만 제공되며, 현재 수백 명 수준인 이용 대상을 수천 명으로 확대할 계획이다.
샘 올트먼 오픈AI CEO./사진=연합뉴스
국가 보안 체계까지 흔드는 ‘초격차 속도’
이처럼 AI 기반 보안 위협이 현실화되면서 각국 정부와 금융권도 긴급 대응에 나섰다.
미국에서는 스콧 베선트 재무장관과 제롬 파월 연방준비제도 의장이 주요 은행 CEO들을 소집해 긴급 점검 회의를 열었다. AI가 금융 시스템의 낡은 코드를 전수 분석해 취약점을 대량으로 찾아낼 경우, 이를 악용한 공격이 금융시장 전반으로 확산될 수 있다는 우려가 반영된 조치다.
국내에서도 대응 수위가 빠르게 높아지고 있다. 과학기술정보통신부는 지난 14일부터 이동통신 3사와 네이버, 카카오, 우아한형제들, 쿠팡 등 주요 플랫폼 기업을 대상으로 비공개 점검 회의를 잇달아 개최하고 대응방안을 논의했다.
금융위원회 역시 권대영 부위원장 주재로 금융감독원, 금융보안원, 은행·보험권 최고정보보호책임자(CISO)들을 소집해 긴급 대응 방안을 논의했다. 청와대 국가안보실도 민·관·군에 관련 대응을 주문하며 상황 관리에 나선 상태다.
전문가들은 지금을 사실상 ‘골든타임’으로 보고 있다. 인간의 대응 속도로는 AI 기반 공격을 따라잡기 어려운 만큼, 개별 기업 차원의 대응을 넘어 국가 단위의 보안 역량 강화가 불가피하다는 지적도 나온다.
특히 자율형 AI 에이전트가 고도화될수록 단일 취약점이 아닌 시스템 전반을 겨냥한 구조적 공격이 가능해지는 만큼, 방어 전략 역시 근본적인 전환이 필요하다는 목소리가 커지고 있다.
배경훈 부총리 겸 과학기술정보통신부 장관은 “우리 기업과 기반 시설이 위협에 노출되지 않도록 하면서 사이버 보안 역량을 강화해야 한다”며 “민관 합동으로 국내 사이버 보안 생태계 고도화를 추진해야 한다”고 밝혔다.
자율 해킹 AI의 등장은 단순한 기술 진보를 넘어 보안 패러다임 자체를 뒤흔드는 변수로 떠올랐다. 공격과 방어의 속도 격차가 극단적으로 벌어지는 가운데, 대응 체계 구축 시점을 놓칠 경우 피해 규모 역시 이전과는 비교할 수 없는 수준으로 확대될 수 있다는 경고가 커지고 있다.
댓글
0