유상윤 에임인텔리전스 대표 (사진=에임인텔리전스)
지난 27년간 인간이 발견하지 못했던 보안 취약점까지 찾아냈다는 앤트로픽의 ‘미소스’가 보안 생태계를 뒤흔들고 있다. 이를 두고 ‘AI 시대 오펜하이머’라는 수식어까지 붙였다.
기존 해킹에도 AI가 활용됐으나, 미소스가 촉발한 이번 사태는 차원이 다르다는 평가다.
AI 보안 솔루션 스타트업 에임인텔리전스 유상윤 대표는 무엇보다 미소스가 ‘GPT-5.4 사이버’ 같은 보안 특화 모델이 아닌 범용 모델임에도 불구하고 압도적인 성능을 보였다는 점에 주목했다.
유 대표는 “미소스는 스스로 제로데이 취약점을 탐지하고 최적의 공격 코드(익스플로잇)를 조합해 자율 공격을 실행한다는 점에서 사실상 완전 자율무기에 가깝다”라며 “전문 지식이 없는 일반인도 미소스를 통해 고도화된 공격을 수행할 수 있다는 점은 보안 역사의 중대한 변곡점을 제공한다”라고 분석했다.
다만, 과도한 공포론에 대해서는 경계의 목소리를 냈다.
“미소스가 도출한 결과는 인간의 검증을 거쳐 필터링된 값이며, 실제 오류도 일부 존재했다”라며 “정교하게 설계된 프롬프트를 활용한다면 이전 모델인 오퍼스(Opus)로도 충분히 유사한 성능을 낼 수 있는 만큼, 특정 모델에 대한 공포보다는 시스템적인 대비가 우선이다”라고 말했다.
■ 망 분리에 갇힌 한국 보안… ‘소버린 AI’ 기준부터 재정립해야
최근 과학기술정보통신부의 긴급 보안 점검 회의에도 참여한 유 대표는 폐쇄망과 망 분리에 고착화된 금융과 공공 영역의 보안 실태에 깊은 우려를 표했다. 설령 미소스에 접근할 수 있더라도, 구조적 한계로 제대로 된 점검조차 수행할 수 없다는 지적이다.
유 대표는 “한국은 망 분리라는 특수성 때문에 서버 전수조사부터 어렵고 최신 업데이트보다 노후화된 레거시 시스템이 그대로 방치된 경우가 많다”라고 지적했다. “단순히 구멍 난 곳을 메꾸는 패치 위주 방어 전략은 일시적 조치에 불과하다”라며, 보안 체계의 근본적인 체질 개선을 강조했다.
나아가 국가 주권 차원에서 ‘소버린 AI’의 정의 자체를 다시 내려야 한다고 역설했다.
현재는 앤트로픽이 미국 정부와 우호적으로 협력하고 있지만, 자칫 기업의 영향력이 국가 권력을 상회하거나 협력이 단절되면 국가 안보에 치명적인 무기가 될 수 있기 때문이다.
유 대표는 “지금까지는 한국어 성능이나 문화적 맥락을 독자 모델의 핵심 경쟁력으로 꼽아왔지만 이제는 코딩과 보안 능력이 새로운 기준점이 돼야 한다”라고 제언했다.
자체 개발한 AI 기업정책 준수 여부 평가 프레임워크 ‘COMPASS’ (사진= 에임인텔리전스)
■ 에임인텔리전스, ‘공격부터 방어까지’ AI 보안 자동화 솔루션으로 승부
에임인텔리전스는 이러한 위협에 대응하기 위해 공격 및 방어에 특화된 AI 자동화 솔루션을 제공하고 있다.
레드티밍 솔루션인 ‘스팅어(Stinger)’는 '오퍼스 4.7' 기준 100%에 달하는 공격 성공률(ASR)을 기록했으며, 오픈클로 등 에이전트 공격 자동화율도 80%에 달한다. 가드레일 솔루션인 ‘스타포트(Starfort)’도 98%의 높은 방어율을 보이고 있다.
단순 솔루션을 넘어 보안 특화 벤치마크 개발에도 박차를 가하고 있다. 현재 AI 안전연구소, 마이크로소프트(MS)와 협력해 의료 등 고위험 영역의 AI 안전성을 검증하는 벤치마크와 다국어·다문화 환경 공격 시 AI의 안전 여부를 확인하는 벤치마크를 준비 중이다.
유 대표는 “에이전트 활용이 점차 확산됨에 따라 단순 모델 검증을 넘어 에이전트가 시스템을 파괴하거나 개인정보를 탈취하는지 여부를 체크하는 벤치마크도 개발할 것”이라며 앞으로의 계획을 밝혔다.
이어 “바이브 코딩과 오픈웨이트 모델의 확산으로 한 곳에서 발생된 취약점이 AI 생태계 전체의 붕괴로 이어질 수 있는 구조가 됐다"라며 "이제 더 이상 사람과 시스템 대응만으로는 AI 공격을 막아낼 수 없는 만큼 차세대 AI 보안 자동화 기술에 대한 관심과 지원이 필요하다"라고 말했다.
김해원 기자 hwkim@aitimes.com
댓글
0