“AI 에이전트 시대의 보안은 나중에 덧붙이는 기능이 아니라 처음부터 갖춰져 있어야 합니다.”
믹 던(Mick Dunne) 마이크로소프트 아시아태평양 지역 최고 보안 자문 매니저(Chief Security Advisor Manager)는 25일 서울 그랜드 인터컨티넨탈 서울 파르나스에서 열린 ‘마이크로소프트 보안 서밋, AI와 디지털 신뢰’의 키노트 세션에서 이렇게 말했다.
던 최고 보안 자문 매니저는 “AI 에이전트 도입을 막을 수 없는 시대의 흐름”이라고 짚었다. 그러면서 “기업들은 고객 서비스와 업무 효율을 높이기 위해 AI를 쓰기 시작했고, 이제는 일상 업무를 바꾸는 단계로 넘어가고 있다”며 “보안팀도 반복 업무를 AI로 넘기고 사람은 더 중요한 판단에 집중해야 한다”고 강조했다. 특히 보안운영센터(SOC)의 분석가가 수많은 경보를 들여다보다가 허탕을 치는 일이 반복되는 현실을 예로 들며, “AI는 이러한 어려움을 줄이는 방향으로 쓰여야 한다”고 설명했다.
마이크로소프트가 진단한 AI 에이전트의 도입 속도는 과거의 클라우드 전환보다도 훨씬 빠르다. 던 최고 보안 자문 매니저는 “현재 리더의 80%가 이미 조직 안에서 에이전트를 쓰고 있거나 향후 1년 안에 도입할 계획이라고 답했다”라며 “IDC는 2028년에는 기업 환경에서 13억개 에이전트가 운영될 것이라고 전망했다”고 했다. 이어 “문제는 도입 자체가 아니라 이 규모를 어떻게 통제하고 보호할 것인지, 즉 보안”이라고 강조했다.
“AI
신뢰의 뿌리는 보안
”
…
도입 전 기초 통제부터 점검해야
마이크로소프트는 AI 에이전트를 사용하기 위해 가장 중요한 요소를 ‘신뢰를 위한 보안’으로 본다. 던 최고 보안 자문 매니저는 “조직이 AI를 신뢰하지 못하면 쓰지 않을 것이고, 고객이 기업의 AI 플랫폼을 신뢰하지 못해도 마찬가지”라며 “신뢰의 뿌리는 늘 보안이었다”고 말했다.
그는 AI가 업무의 혁신을 가져오기도 하지만, 동시에 새로운 공격 표면도 만든다고 짚었다. 기존의 계정 탈취, 잘못된 접근통제, 취약한 보안 위생 같은 문제 위에 프롬프트 인젝션(악성 지시문 삽입), 모델 변조, 데이터 오염 같은 위험이 더해진다는 것이다. 공격자도 이미 AI를 활용하고 있다는 점도 강조했다. 그는 “AI 기반 피싱이 기존 방식보다 더 높은 효과를 내고 있다며, 방어자도 같은 수준으로 AI를 써야 한다”고 설명했다.
이런 환경 속에서 마이크로소프트가 꺼낸 해법은 새 기능이 아니라 ′핵심 기본요소로서 보안’ 통제가 정착돼야 한다는 것이다. 데이터 분류, 데이터 거버넌스, 신원 관리 같은 기초 보안 체계를 먼저 정비해야 AI 에이전트 워크플로우를 사용할 수 있다는 설명이다. 그는 “기초가 안 잡힌 상태에서 AI를 빠르게 도입하면 결국 나중에 다시 돌아가 그 문제를 풀어야 하는 상황에 직면하게 된다”고 말했다.
마이크로소프트는 ‘안전한 미래 이니셔티브(Secure Future Initiative)’를 운영하고 있다. 안전한 미래 이니셔티브는 보안을 사후 대응이 아니라 기본값으로 두기 위해, 제품 설계부터 운영까지 전 과정을 다시 정비하는 전사 보안 강화 프로그램이다. 2023년과 2024년 침해사고를 겪은 뒤 설계 단계부터 안전하게 만들고, 기본 설정도 안전하게 두고, 운영 과정까지 안전하게 유지하는 방향으로 보안을 다시 설계했다.
던 최고 보안 자문 매니저는 “보안은 기본값이어야 한다”며 “고객이 잘못된 선택을 하지 않도록 최소 기준을 강제하는 것도 필요하다”고 말했다.
“
사람보다 많은 에이전트
”
…
에이전트
댓글
0