[미토스 쇼크] 제로 트러스트는 시작일 뿐…K-기업, 'AI vs AI' 자율 보안...

인간 속도론 역부족…실시간 패치·해킹 '방어용 AI' 도입, 승부처

'섀도우 AI'의 역습과 'AI 가드레일' 구축…제로트러스트 도입은 기본

기업, 입·출력 양방향 보안-AI 라이프사이클 전반의 통제권 가져야

유튜브 영상, '미션 임파서블 데드레코닝' 예고편에 등장한 AI 빌런 엔티티(The Entity)의 모습. [사진 캡처=파라마운트 픽처스 제공]

인공지능(AI)이 스스로 시스템의 취약점을 뚫는 '미토스'의 공습은 더 이상 영화 속 이야기가 아니다.

지난 14일과 15일 양일에 걸쳐, 과학기술정보통신부와 금융당국이 통신·포탈·플랫폼·금융·은행권 등 주요 기업 CISO(정보보호최고책임자)들을 긴급 소집한 것은 대한민국 산업 생태계가 마주한 위협이 '임계점'에 도달했음을 의미한다.

이제 보안은 권고 사항이 아닌, 기업의 명운이 걸린 '생존'의 문제로 직결되고 있다.

'미토스'는 앤트로픽(Anthropic)사가 개발한 차세대 대규모 언어 모델(LLM)인 '클로드 미토스(Claude Mythos)'의 약칭이다. 단순한 텍스트 생성을 넘어 소프트웨어의 논리적 결함을 스스로 찾아내 무기화할 수 있는 '자율형 사이버 에이전트'다.

◇ AI, '수동적 도구'에서 '자율적 주체'로

삼성SDS가 지난 2월 23일 발표한 '2026년 사이버 보안 위협 트렌드 전망'에 따르면, 현재 AI는 사용자의 질문에 답변하는 수동적 도구에서 벗어나 스스로 목표를 설정하고 전략을 수립하는 '자율적 업무 수행의 주체(AI Agent·Agentic AI)'로 급격히 발전하고 있다.

이러한 변화는 보안 측면에서 치명적인 '양날의 검'이다. AI 에이전트가 자율적 의사결정 과정을 침해받거나 과도한 권한을 남용할 경우, 인간의 개입 없이도 민감 정보 유출이나 시스템 손상을 초래할 수 있기 때문이다.

미국의 세계적인 IT 연구·컨설팅 기업인 가트너(Gartner)는 2028년까지 보안 사고의 25%가 AI 에이전트의 남용으로 발생할 것이며, 이를 감독할 '보호자 에이전트(Guardian Agent)' 도입이 필수가 될 것으로 내다봤다. AI 대 AI 간 자율 보안 전쟁의 서막이 올라갔다.

◇ '사스포칼립스'의 경고…무너지는 소프트웨어 경제 모델

실제 산업 현장의 충격은 더 구체적이다. 지난 2월 3일(현지시간) AI 에이전트가 인간의 워크플로우를 통째로 대체할 수 있다는 가능성이 확인되면서, 글로벌 SaaS(서비스형 소프트웨어·Software as a Service) 기업들의 기업가치가 급락하는 '사스포칼립스(SaaSpocalypse)' 사태가 벌어졌다.

전통적인 '좌석당 과금(Seat-based Pricing)' 모델은 붕괴 직전이다. 기업들이 수백 명의 직원용 라이선스를 구매하는 대신, 소수의 관리자와 고성능 AI 에이전트 체제로 전환하고 있어서다.

일례로 데이터 보안 기업 코헤시티(Cohesity)는 기존 유료 소프트웨어 구매 대신 클로드 에이전트를 활용해 단 이틀 만에 자동 비활성화 기능을 구현해내기도 했다.

이는 기존 소프트웨어의 '인터페이스 가치'가 소멸하고, 데이터 레이어에서 직접 실행되는 '에이전트옵스'(AgentOps·AI 에이전트의 전체 수명 주기를 관리하는 프레임워크) 역량이 기업 보안과 생존의 핵심이 되었음을 시사한다.

◇ '섀도우 AI'의 역습과 'AI 가드레일' 구축

기업 현장에서 돌출되는 또 다른 복병은 '섀도우 AI(Shadow AI)'다.

직원들이 업무 효율을 위해 조직의 승인 없이 개인적으로 AI 도구를 사용하는 현상이 광범위하게 확산되고 있다. 이는 의도치 않은 소스 코드 유출이나 재무 데이터 노출로 이어지는 거대한 보안 구멍이 된다.

이에 대응해 국내 기업들은 AI 활용을 단순히 차단하는 대신 ▲승인 ▲제한 ▲금지의 3단계 가이드라인을 수립하고 있다.

특히 AI 모델로 들어가는 데이터(Input)와 나오는 결과물(Output)을 실시간 모니터링하여 차단하는 'AI 가드레일(Guardrail)', AI 모델의 취약점을 선제적으로 공격해 보완하는 'AI 레드팀(Red Team)' 운영이 대기업을 중심으로 표준화되고 있다.

실제로 '미토스'를 개발한 앤트로픽사의 로건 그레이엄 프런티어(Frontier) 레드팀 리더는 "우리는 이러한 능력이 6개월, 12개월, 24개월 내에 널리 보급될 세상에 대비해야 한다"며 "현대 보안 패러다임의 기반이 된 많은 가정들이 무너질 수 있다"고 우려했다.

◇ 기업의 최대 위협은 'AI 해킹'

지난해 11월 27일부터 12월 8일까지 국내 IT 보안 담당자 667명을 대상으로 삼성SDS가 조사한 결과, 보안 담당자의 81.2%가 올해 가장 위협적인 요소로 'AI 기반 보안 위협'을 꼽았다. 2위인 랜섬웨어(40.7%)의 2배에 달한다.

현재 기업들은 단순히 AI를 방어에 활용하는 것을 넘어, '모든 접근을 신뢰하지 않는다'는 제로 트러스트(Zero Trust) 체계로의 재설계를 서두르고 있다. 제로 트러스트 도입은 기본이 된 것이다.

특히 'AI로 인한 보안 위협은 상수'라는 가정 하에, 주요 기업들은 AI 기반 보안 솔루션 도입에 돌입했다.

네이버·카카오는 AI를 이용한 공격 유형을 연구하고 있으며, 보안 인력 충원과 내부 정보 보호 체계 정비에 들어갔다.

SKT·KT·LGU+ 등 통신 3사는 AI 에이전트를 활용한 차세대 방어 시스템(AgentOps)을 적용하고 보안망 자체를 재정비하고 있다.

삼성전자의 경우, 지난 2024년부터 선제적으로 프라이빗 블록체인 기반 기술인 '녹스 매트릭스(Knox Matrix)'를 통해 디바이스 간 AI 보안을 강화하고 있다.

한 IT 보안 전문가는 "미토스가 열어버린 '자율형 공격'의 시대는 인간의 속도로는 막을 수 없다"며 "입·출력 양방향 보안과 AI 라이프사이클 전반의 통제권을 쥐는 'AI-네이티브' 보안 체제만이 플랫폼·기업별 디지털 보안을 지킬, 실현가능한 해법"이라고 강조했다.

◇ 미토스가 던진 질문, 누가 통제권 쥘까?

결국 미토스가 던진 질문은 기술적 해법을 넘어 '디지털 주권의 본질'을 향한다.

AI가 단순한 도구를 넘어 자율적 주체로 격상된 지금, 기업과 국가의 경쟁력은 얼마나 강력한 AI를 보유하느냐가 아니라 그 AI의 칼날을 제어할 수 있는 '기술적·정책적 통제권'을 누가 쥐느냐에 달려 있다.

보이지 않는 파괴자와의 자율 보안 전쟁은 이미 시작되었다. 우리는 이제 거대한 AI 생태계 속에서 기업·소비자·경제의 안전을 담보할 새로운 기술적 성벽과 사회적 신뢰 시스템을 동시에 쌓아 올려야 하는 엄중한 선택의 기로에 서 있다.