[NetSec-KR 2026] KISA, AI 개발 및 이용 환경의 보안 강화 위한 AI-ZT 성숙...

KISA 이재형 팀장

“AI 활용은 빠르게 확산하고 있지만, 보안은 그 속도를 아직 충분히 따라가지 못하고 있다.”

4월 16일부터 17일까지 서울 삼성동 코엑스 컨퍼런스룸(남) 3·4층에서 열린 ‘NetSec-KR 2026 제32회 정보통신망 정보보호 컨퍼런스’에서 KISA 이재형 팀장은 국내 AI 보안 정책 연구 방향을 주제로 발표했다. 발표는 에이전틱 AI 확산과 위협 현실화, AI 보안 관련 정책 동향, KISA의 AI 보안 안내서 연구, 제로트러스트 관련 정책 연구 순으로 이어졌다.

AI가 산업 전반으로 빠르게 퍼지고 있는 지금, 기술 성능과 서비스 확장만 강조해서는 안 된다고 그는 강조했다. 이제는 AI를 어떻게 만들고, 어떻게 연결하고, 어떻게 운영할 것인지까지 보안 관점에서 함께 봐야 한다는 것이다.

이 팀장은 기존 AI가 일부 업무를 보조하거나 자동화하는 수준이었다면, 이제는 산업 생태계와 서비스 구조 자체를 바꾸는 AI 대전환 단계로 넘어가고 있다는 진단이었다.

그는 생성형 AI의 확산 이후 사이버 공격이 더 정교하고 더 빠르게 진화하고 있다고 전했다.

AI 위협이 이미 현실이 됐다는 것을 여러 사례를 들어 설명했다. 단순히 “조심해야 한다”는 수준이 아니었다. 딥페이크, 랜섬웨어, AI 보안 위협이 각각 따로 존재하는 것이 아니라 서로 맞물리며 더 큰 위험을 만들고 있다는 점을 강조했다.

특히 이 팀장은 가트너(Gartner)의 2025 AI 하이프사이클과 RSA 컨퍼런스 2026 사례를 언급하며, AI 에이전트가 이제는 보안 업계에서도 본격적인 화두가 됐다고 설명했다. 실제로 분석, 대응, 자동화 영역에서 AI 에이전트를 활용하려는 시도가 빠르게 늘고 있다는 것이다.

하지만 이 팀장은 “AI 에이전트는 분명히 효율을 높일 수 있지만, 동시에 새로운 공격 통로가 될 수 있다”고 강조했다. AI가 외부 도구와 서비스, 파일시스템, 메일, 메신저, 인터넷 환경과 연결될수록 편리함은 커지지만, 점검해야 할 공격면도 함께 넓어진다는 설명이었다.

실제로 ‘Shadow Agent’, ‘Agentic SOC’, 오픈클로(OpenClaw) 구조, 취약성 지형도 같은 내용이 이어졌다. 이제 AI 보안은 모델 하나만 안전하게 만든다고 끝나는 문제가 아니라는 점이다. AI가 접속하는 데이터, 연결되는 외부 애플리케이션, 주어진 권한, 실제 업무 흐름까지 모두 보안 검토 대상이 됐다.

이 팀장은 결국 “모델 보안만으로는 부족하다”는 점을 여러 차례 강조했다. AI는 혼자 일하지 않는다. 여러 시스템을 연결하고 판단을 돕고 실행까지 맡게 되는 순간, 보안 문제도 함께 넓어진다.

AI가 실제 공격에도 적극 활용되고 있다는 점도 우려했다. 딥페이크를 이용한 사칭, 생성형 AI를 이용한 공격 자동화, AI 시스템 자체를 겨냥한 프롬프트 인젝션과 데이터 오염, 모델 탈취 같은 문제들이 함께 제시됐다. AI가 방어를 돕는 도구가 되는 동시에 공격자에게도 강력한 무기가 되고 있다는 현실을 보여주는 대목이었다.

선언보다 중요한 건 현장에서 쓸 수 있는 기준

이 팀장은 이런 변화 속에서 국가 차원의 정책 정비가 더 중요해지고 있다고 설명했다. 미국, 영국, 유럽연합(EU), 일본, 중국, 싱가포르 등 주요국은 이미 AI 보안과 관련한 제도와 정책, 프레임워크를 빠르게 손보고 있다고 소개했다. 결국 AI 경쟁은 기술 경쟁만이 아니라, 안전하게 활용하기 위한 기준 경쟁으로도 이어지고 있다는 것이다.

미국 국립표준기술연구소(NIST)의 AI RMF 1.0과 OWASP의 에이전틱 AI 보안위협 식별 및 완화 방안도 함께 언급됐다. 이 팀장은 위험을 단순히 아는 것에 그치지 않고, 이를 어떻게 식별하고 어떤 방식으로 줄일 것인지까지 체계적으로 정리한 기준들이 이미 나오고 있다고 설명했다. 국내 역시 이런 흐름을 참고해 실행 가능한 정책 체계를 마련해야 한다는 내용이었다.

KISA가 추진 중인 인공지능 보안 안내서 연구도 그 연장선에 있었다.  KISA는 안전한 AI 개발과 이용을 위해 개발자, 서비스 제공자, 이용자 관점으로 나눈 보안 안내서를 마련하고 있으며, 앞으로는 지자체 AI와 차세대 AI 환경까지 반영한 고도화 작업을 추진하고 있다. 막연한 원칙보다 실제 현장에서 참고할 수 있는 기준을 만들겠다는 방향이다.

이 팀장은 “국민과 기업의 안전한 차세대 AI 활용을 목표로 인식 개선과 대응 역량 강화를 위한 안내서를 개발하고 있다”고 전했다.

제로트러스트 관련 정책 연구도 빠지지 않았다. KISA는 기존 제로트러스트 가이드라인 1.0과 2.0을 발간한 데 이어, OT 환경 제로트러스트 적용 안내서도 공개했다고 설명했다. 여기에 더해 AI 개발 및 이용 환경의 보안 강화를 위한 AI-ZT 성숙도 모델 연구도 추진 중이라고 밝혔다.

AI 시대, 한 번 신뢰하고 끝내는 보안이 아니라, 사람과 기기, 데이터, 애플리케이션, 운영 환경을 계속 검증하고 최소 권한만 주는 구조로 가야 한다는 것이다. AI 시대에는 이런 원칙이 더 중요해진다. AI가 많은 것을 연결하고 자동화할수록, 검증과 통제의 기준도 더 촘촘해야 하기 때문이다.

이 팀장은 “AI 시대의 경쟁력은 얼마나 빨리 도입하느냐만이 아니라, 얼마나 안전하게 운영하느냐에 달려 있다”고 강조했다.