다리오 아모데이 앤트로픽 CEO(이미지=엔트로픽)
인공지능(AI) 스타트업 앤트로픽(Anthropic) 경영진이 지난 10일 미 재무부 스콧 베센트 장관, 연준 제롬 파월의장과 긴급회의를 가진 것으로 확인됐다. 이 자리에는 앤트로픽의 다리오 아모데이 CEO도 참석했으며, 주된 의제는 앤트로픽의 미공개 최신 AI 모델인 '클로드 미토스 프리뷰(Claude Mythos Preview)'가 금융 시스템에 초래할 수 있는 사이버 보안 리스크였다.
앤트로픽 측은 이 모델이 인간 전문가보다 소프트웨어 취약점을 더 잘 찾아내고 악용할 수 있으며, 이미 주요 운영체제와 웹 브라우저에서 수천 개의 심각한 취약점을 발견했다고 밝혔다. 이 중 일부는 수십 년간 발견되지 않았던 취약점인 것으로 알려졌다.
이번 회의는 미 정부가 AI의 기술적 진보가 사이버 공격자의 능력을 획기적으로 향상시켜 국가 안보와 경제 시스템에 실질적인 위협이 될 수 있음을 공식적으로 우려하고 있다는 신호로 해석된다.
AI가 공격하고 AI가 방어하는 실시간 전쟁
AI 기반 사이버 보안 산업이 폭발적으로 성장하는 배경에는 AI 기술 자체의 이중적인 특성이 있다. 해커들이 생성형 AI를 무기화하기 시작하면서 공격의 규모와 정교함이 과거와는 비교할 수 없을 정도로 커졌다.
AI를 활용해 소프트웨어의 제로데이 취약점을 실시간으로 찾아내고, 방어 시스템을 우회하는 악성코드를 자동으로 생성할 수 있다. 또한 딥페이크 및 AI 언어 모델을 활용해 인간이 구별하기 힘든 정교한 피싱 메일이나 사회혼란을 야기하는 파괴적인 공격을 대량으로 시도할 수 있다. 마켓그로스리포트에 의하면, 2024년 1분기 피싱 이메일의 약 22%가 AI 도구를 활용해 작성된 것으로 추정된다. 하지만 전 세계적으로 사이버 보안 전문 인력은 심각하게 부족한 상황이다.
기업의 IT 환경이 클라우드로 전환되고 IoT 기기가 늘어나면서 분석해야 할 보안 로그 데이터가 기하급수적으로 증가한 상황인데, 인간 분석가가 실시간으로 모든 위협을 탐지하는 것이 불가능해지면서, 대규모 데이터를 처리하고 이상 징후를 탐지할 수 있는 AI의 필요성이 커졌다.
이러한 배경 속에서 마켓그로스리포트는 글로벌 AI 보안 시장 규모를 2024년 293억 달러에서 2033년 2,404억 달러 규모로 연평균 26.3% 성장할 것으로 전망했다.
이미지=AI
사이버 보안 업체의 무기는 딥러닝과 자율 대응
AI가 초래한 위협을 막기 위해 딥러닝, 행동 분석, 자율 대응 등 첨단 AI 기술을 무기로 내세운 사이버 보안 스타트업들이 해외에서 큰 주목을 받고 있다. 이들은 기존의 패턴 기반 방어 시스템을 넘어, 알려지지 않은 위협을 실시간으로 차단하는 데 역량을 집중하고 있다.
영국 사이버보안 스타트업 다크트레이스(Darktrace)는 기업의 네트워크와 사용자 행동을 실시간으로 학습해서 '정상 상태'의 베이스라인을 구축한 후 이와 다른 미세한 이상 징후를 탐지해 알려지지 않은 공격을 차단하는 기술을 개발하고 있다.
미국의 딥 인스팅트(Deep Instinct)는 사이버 보안만을 위해 설계된 딥러닝 프레임워크를 활용해 파일이 실행되기 전 단계에서 악성코드 여부를 0밀리초에 가까운 속도로 판단해 사전 차단하는 기술을 개발했다.
미국의 센티넬원(SentinelOne)은 AI 엔진이 클라우드 연결 없이도 기기 자체에서 위협을 탐지, 분석, 대응하는 자율 엔드포인트 방어기술을 개발하고 있다.
영국의 테시안(Tessian)이 선보인 기술은 행동 과학과 AI를 결합해 이메일 통신 패턴을 분석해 권한이 없는 수신자에게 데이터를 보내거나, 정교한 피싱 공격에 속아 정보를 유출하는 인간의 실수를 차단하는 데 특화가 되어 있다.
앤트로픽의 미 정부 소환 이슈는 AI 보안이 더 이상 미래의 이야기가 아닌, 지금 당장의 현실적 위험임을 시사한다. 미 정부는 앤트로픽을 공급망 리스크로 지정하는 방안까지 검토했던 것으로 알려졌다. 이는 AI가 기술적 성취를 넘어 지정학적, 국가 안보적 중요성을 가지는 핵심 인프라로 다뤄지고 있음을 보여준다.
중기이코노미
댓글
0