[테크월드=김혜진 기자] 최근 AI를 기반으로 한 반자율 공격이 빠르게 확산되고 있다. 특히 지능형 지속 위협(APT) 공격 캠페인의 경우, AI 에이전트를 작전에 배치해 공격·침투·확산 전과정을 자동화하며 이전보다 빠르고 정교한 공격을 감행하고 있다. 이에 AI 기반 위협에 대응하기 위해 빠른 복원력을 확보해야 한다는 필요성이 제기됐다.
AI, 공격도구 제작부터 침투·확산까지 ‘자동화’
공격자들이 AI 기술을 적용해 과거보다 더 빠르고 정교한 공격을 진행하고 있다. 이제 공격도구 제작부터 시작해 침투, 확산까지 자동화하는 방향으로 진화 중이다.
최근 멕시코 정부를 타깃으로 발생한 공격 사례가 대표적이다. 사이버보안기업 갬빗시큐리티에 따르면 공격자는 AI 모델인 앤트로픽의 클로드를 악용해 맥시코 정부 기관 9곳을 대상으로 수억 건의 개인정보를 탈취했다. 2025년 12월부터 2026년 1월까지 두달에 걸쳐 캠페인이 진행됐고, 맞춤형 공격 도구 구축부터 데이터 유출 수행까지 사람의 개입을 최소화한 상태에서 이뤄진 것으로 평가됐다. 데이터 탈취 후 오픈AI의 GPT-4.1을 사용해 데이터 분석까지 수행키도 했다.
현재 AI 기술은 APT 작전에도 직접적으로 통합되고 있다. 트렌드AI의 ‘2025 APT 연례 보고서’에 의하면 2025년 LLM은 실제 운용 악성코드 및 AI 기반 정찰 활동에 실제 배치됐고, 이제 공격자들은 AI를 보조 도구가 아닌 실시간 적용 가능한 AI 에이전트로 배치해 활용하는 단계에 이르렀다.
이에 트렌드AI는 보고서를 통해 “향후 몇 년 간 APT 행위자들의 사이버공격 캠페인 수행 방식이 근본적으로 재편될 것”이라며 “공격 캠페인 가속을 통한 자율적 킬 체인(Kill chain), AI를 통한 다단계 공격 수행 간편화, AI에이전트의 악성코드 대체, 상용 AI 제품 및 플랫폼 악용, 개인화된 스피어피싱 일반화 등의 중대한 변화가 일어날 것”이라고 전망했다.
이어 “APT 행위자들은 군 및 방위 산업체에서 개발한 도구를 포함해 국가 차원의 자원을 활용해 일반적인 사이버 범죄 조직들을 앞지를 것”이라며 “이미 APT 행위자들은 오픈AI나 제미나이 등 공개 AI 플랫폼을 사용해 정찰을 수행하고 정보를 수집하며 취약점을 조사하고 있다. 이들은 생성형 AI를 활용해 딥페이크 영상을 제작하거나 스피어피싱 캠페인을 위한 설득력 높은 메시지를 작성키도 한다”고 오늘날 AI 기반 공격의 위험성을 전했다.
보안업계, “공격 표면 위험성 이전과 달라”…복구력 ‘속도’ 중요
현재 보안업계는 AI 기반 위협 고도화에 대응하기 위해 AI를 활용한 방어 솔루션을 지속 고도화하며 시장에 내보이고 있다. AI가 공격 자동화 수준을 높임과 동시에 기업들의 AI에이전트 도입으로 기존 대비 공격 표면이 구조적으로 확대되며 공격 위험성이 크게 증가했기 때문이다.
이들은 AI 도입에 따른 보안의 위험성을 크게 우려하고 있다. 향후 기업이 직면할 보안 위협이 과거와 질적으로 다른 전개를 보일 것이라는 예측이다. 특히 AI에이전트 보안을 위한 도구와 프레임워크 등이 개발되고 있지만 현재 발생중인 공급망 공격, 에이전트 사칭, 섀도우 AI 등을 따라잡기에는 다소 부족하다는 평가도 나온다.
AI에이전트 도입에 대한 보안 위험성은 기업들도 인지하고 있는 부분이다. 시스코의 ‘2026 AI 보안 현황 보고서’에 따르면 CISO의 87%가 AI 에이전트 보안을 올해 최우선 관심사로 꼽았다.
하지만 이러한 관심이 보안 구축으로 반드시 이어지지는 않은 것으로 보인다. 성숙한 AI 에이전트 보안에 대한 안전장치를 갖춘 조직은 11%에 불과했다.
트렌드AI는 보고서를 통해 “현재 APT 캠페인을 진행하는 위협 행위자들은 경계 방어 체계를 우회하고 신뢰 관계를 악용하며 장기간에 걸쳐 은밀히 접근을 지속하고 있다. 이러한 위협은 자동화 AI를 통해 규모가 커지고 있다”며 “단발적 탐지 및 수동 대응에 의존하는 기존 보안은 더 이상 충분치 않다. 정부 및 기업은 이들이 목표를 달성하기 전 인간의 의사결정과 자동화, 가시성, 사전 계획된 대응을 결합해 기계적 속도의 복원력을 갖춰야 한다”고 강조했다.
회원가입 후 이용바랍니다.
댓글
0