취약점 자동 발굴서 공격 도구 생성으로 진화
무기화하는 속도 크게 단축... 보안 비대칭↑
"소규모 AI 모델들도 미소스 기능 소화 임박"
"AI 정책 초점, '국가 리스크 관리'로 전환을"
미국 인공지능(AI) 기업 앤스로픽 로고. 로이터 연합뉴스
미국 인공지능(AI) 기업 앤스로픽이 최근 공개한 AI 모델 '클로드 미소스'가 불러온 해킹 위협이 세계 보안업계를 강타했다. 범용 대규모언어모델(LLM) AI가 취약점을 삽시간에 끄집어내 악용할 수 있을 정도로 고도화하면서 'AI 해킹 시대' 서막을 올린 셈이다. 미소스 같은 AI 모델에 대한 통제력을 쥐면 보안 개선의 획기적 전기를 맞겠지만, 그렇지 못하면 사이버 공격이 급속도로 빨라져 뒷감당이 힘든 위기를 맞을 거라고 전문가들은 전망한다.
숙련된 보안 연구원처럼 작동
16일 앤스로픽과 보안업계에 따르면, 미소스는 보안 취약점을 수정하는 패치가 없는 곳을 자율적으로 찾아내 공격하는 방식의 해킹(제로 데이)이 가능하다. 소프트웨어 소스 코드를 읽어 취약점을 가정해 실제 검증하고, 결함(버그)을 찾아 수정하는 도구인 디버거를 활용하고, 특정 코드를 추가하는 과정을 반복할 수 있다. 숙련된 보안 연구원이 하는 작업과 다르지 않다.
미소스는 찾아낸 취약점을 토대로 시스템 장악에 쓸 수 있는 공격 도구(익스플로잇)까지 하루도 안 돼 알아서 생성한다. AI의 '괴물' 기질이 발현될까 전문가들이 우려하는 지점이 바로 여기다. 김형식 성균관대 소프트웨어학과 교수는 "기존 AI 모델들도 주어진 소스 코드에서 취약점을 찾긴 했지만, 미소스는 공격 시나리오부터 실행까지 다 하는 수준"이라고 평했다.
영국 AI 안전연구소는 미소스가 보안 체계가 약한 시스템을 공격할 수 있음을 확인했다. 이 연구소는 13일 공개한 독립평가 보고서에서 "초기 (결함) 정찰부터 네트워크 전체 장악에 이르는 32단계 기업 공격 시뮬레이션을 처음부터 끝까지 완수한 최초의 모델"이라 했다. 앤스로픽의 직전 최상위 AI 모델인 클로드 오퍼스 4.6은 평균 16단계 완료에 그쳤다.
인간이 넘긴 취약점 결합한 공격도
미소스가 실제로 이렇게 기능하면 '보안 구멍 발견 → 무기화 → 공격'의 속도가 크게 단축된다. 어디를 찌를지 모를 창을 방패(패치)로 막아야 하는데, 방패를 만들기까지 시간 간극이 극도로 커진다. 보안의 '비대칭'이 심각해진다는 얘기다. AI 기반 보안기업 엔피코어의 백세현 해외전략이사는 "그 격차가 보안에 치명적인 압박이 될 수 있다. 미소스가 기존 취약점 발굴 자동화 수준의 AI 모델과 질적으로 다른 이유"라고 말했다.
미국 클라우드 보안연합(CSA)과 글로벌 보안연구소(SANS)는 미소스 공개 뒤인 12일 긴급 브리핑을 열고 "취약점 발견 뒤 무기화까지 2019년엔 2.3년 걸렸다면 이제는 20시간 수준"이라며 "(앞으로) 그 시간이 거의 제로에 수렴할 것"이라 경고했다. 게다가 앤스로픽은 미소스가 취약점 3, 4개를 유기적으로 '연결'해 만든 공격 도구를 운영체제 리눅스 커널에 성공적으로 구축했다고 밝혀 업계를 긴장시켰다. 인간이 문제없다고 넘긴 개별 취약점도 여러 가지가 결합하면 보안 구멍이 뚫릴 수 있다는 것이다.
전문가가 아니라도 미소스를 쓸 수 있다는 확장성 역시 위협 요인으로 꼽힌다. 가령 AI 기반으로 150여 종 이상 자동화 공격 도구를 갖춘 모델 '헥스 스트라이크'는 보안 전문가급이 쓸 수 있다. 하지만 미소스는 일반 엔지니어나 프롬프트(명령) 활용 능력이 있는 사람이면 다 쓸 수 있다. 보안 교육을 받은 적 없는 앤스로픽 엔지니어가 원격 코드 실행 취약점을 찾아달라고 미소스에 주문하고 이튿날 아침 완벽히 작동하는 공격 도구를 받았다고 한다.
저비용 제2, 제3의 미소스도 나온다
다만, 미소스가 유일한 프런티어 AI 모델은 아니라고 보안업계는 본다. 기업공개(IPO)를 앞둔 앤스로픽의 레드팀 책임자 로건 그레이엄은 "경쟁사들이 비슷한 모델을 내는 데 6~18개월 걸릴 것"이라 했지만, 미국 기업들은 반박했다. 보안 스타트업 아일은 "저비용 오픈 웨이트(가중치) 모델도 운영체제 오픈BSD 취약점 분석 흐름을 완벽히 복원했다"고 했다. 미소스는 이 운영체제의 취약점을 수학적 추론으로 27년 만에 찾아내 화제가 됐다.
중소형 AI 모델도 제2, 제3의 미소스로 등장할 시기가 임박했다는 신호탄 격이다. 앤스로픽이 자국 기업에 한정해 미소스를 공개한 탓에 아직 베일에 싸여 있는 실제 성능을 차치하더라도 극심한 보안 비대칭 위협은 성큼 다가왔다.
AI 보안 위협은 국가 안보와 직결된다. 미소스는 오픈BSD를 1,000여 회 탐색해 취약점을 캐는 데 불과 2만 달러(데이터 기본 단위 토큰 비용)를 썼다. 자본에 구애받지 않고 AI 모델들이 국가 시스템 공격에 얼마든지 동원될 위험이 커진 것이다. 이상근 고려대 AI 보안연구소장은 "AI 정책 무게 중심을 산업 육성에서 '국가 리스크 관리'로 재정립해야 한다"고 말했다. 김창오 과학기술정보통신부 정보보안 프로그램 매니저도 "보안 기술은 엔비디아 (AI 가속기) 종속성보다 훨씬 심할 수밖에 없어 자생력을 키워야 한다"고 강조했다. AI에 뚫리지 않을 보안 투자가 '소버린(주권) AI'의 핵심이 됐다.
댓글
0