[CISO 조찬] 이원태 교수 "AI 3강, 보안 없이 불가능"…한국형 AI 보안정...

이원태 국민대 교수. 3월 25일 데일리시큐-빔소프트웨어 공동 주최 CISO 조찬세미나에서 AI보안정책 관련 강연을 진행하고 있다.

“AI 시대의 새로운 보안 정책을 수립해야 하지만, 그 전에 우리 보안 체계의 기초 체력이 너무 허약하다는 점부터 넘어야 한다.”

이원태 국민대 특임교수는 3월 25일 서울 조선팰리스호텔 4층 로얄챔버1에서 열린 데일리시큐·빔소프트웨어 공동 CISO 조찬 세미나에서 한국의 AI 보안정책이 서둘러 방향을 바꿔야 한다고 강조했다. AI가 공격의 무기이자 방어의 무기라는 이중성을 갖고 있는 만큼, 새로운 AI 보안정책을 만드는 일과 함께 오래된 보안 취약성을 바로잡는 작업을 동시에 추진해야 한다는 문제의식이었다. 이날 조찬세미나에는 CISO 40여 명이 참석해 AI보안에 큰 관심을 보였다.

이날 이 교수는 ‘최근 AI보안위협 동향 및 정책과제’를 주제로, 최근의 침해사고가 남긴 교훈과 글로벌 AI 보안정책 변화, 그리고 향후 우리나라가 추진해야 할 정책 과제를 차례로 짚었다. 그는 현재 한국이 AI 경쟁력 확대를 서두르는 시점이지만, 보안 체계의 기초가 충분히 갖춰지지 않은 상태에서 속도만 앞세울 경우 더 큰 위험을 떠안을 수 있다고 우려했다.

강연은 최근 연쇄 침해사고에 대한 반성에서 출발했다. 이 교수는 지난해 국내에서 잇따라 발생한 대형 해킹과 개인정보 유출 사고를 언급하며, 문제의 핵심은 단순히 공격 기술이 고도화됐다는 데만 있지 않다고 봤다. 오랜 기간 침투 사실을 알아채지 못했고, 인증과 권한 통제 같은 기본 장치가 제대로 작동하지 않았으며, 사고 발생 뒤에도 신속한 소통과 대응이 이뤄지지 못했다는 점이 더 근본적인 문제라고 지적했다. 그는 이런 취약한 기반 위에서 AI 시대의 새로운 보안정책만 덧씌우는 방식으로는 실질적인 전환이 어렵다고 말했다.

AI 위협의 확산도 언급됐다. 생성형 AI가 피싱, 자동화된 콘텐츠 생성 같은 수준을 넘어 이제는 스스로 판단하고 실행하는 에이전트형 AI로 이동하고 있고, 앞으로는 로봇과 드론, 자율주행체계 등 물리적 현실과 맞닿는 피지컬 AI 단계까지 이어질 수 있다는 것이다. 이 교수는 AI 모델 자체의 안전성만 보는 시대는 지나가고 있으며, 권한을 가진 비인간 주체와 에이전트를 어떻게 통제할 것인지가 앞으로의 핵심 보안 이슈가 될 것이라고 봤다.

특히 그는 사람이 아닌 머신 아이덴티티와 자율형 에이전트에 권한이 부여되는 상황을 주목했다. 보안 통제의 중심이 더 이상 사람만이 아니라 권한을 가진 실행 주체로 이동하고 있는데, 이들을 충분히 통제하지 못하면 기존 보안 경계는 쉽게 무너질 수 있다는 설명이다. 실제로 그는 최근 클로드 코드 악용 공격과 오픈클로 사태를 언급하며, 자율형 AI 도구가 생산성을 크게 높이는 동시에 통제되지 않은 상태로 확산될 경우 새로운 유형의 내부 위협과 공급망 위협으로 이어질 수 있다고 경고했다.

이날 강연에서 특히 비중 있게 다뤄진 부분은 국내외 AI 보안정책의 흐름 변화였다. 이 교수는 초기 AI 정책이 차별 방지, 환각, 인간 존엄성과 기본권 보호 같은 안전 중심 의제에 무게를 뒀다면, 최근에는 분위기가 분명히 달라지고 있다고 진단했다. 미국과 중국의 AI 패권 경쟁이 격화되면서 AI가 단순한 산업 기술이 아니라 국가 핵심 자산으로 다뤄지고 있고, 그에 따라 정책의 중심도 AI 세이프티에서 AI 시큐리티, 나아가 국가안보와 연결되는 방향으로 빠르게 옮겨가고 있다는 것이다.

그는 영국이 비교적 이른 시기부터 이런 방향 전환을 보였고, 미국 역시 최근 AI 액션 플랜을 통해 AI를 혁신, 인프라, 국가안보 전반과 직결된 전략 자산으로 다루고 있다고 설명했다. 미국의 정책 흐름은 AI 군 개발 촉진과 선도 기술 확보, 강력한 AI 인프라 구축과 데이터 생태계 강화, AI 기반 위협 대응과 국가안보 활용이라는 세 축으로 압축된다. 이는 AI 보안이 더 이상 산업계의 일부 기술 문제가 아니라 국가 전략의 한 축으로 편입되고 있음을 보여주는 대목이다.

미국 국립표준기술연구소의 AI 위험관리 프레임워크도 이 같은 변화의 연장선에 있다. 이 프레임워크는 AI 시스템의 유효성, 안전성, 보안 및 복원성, 책임과 투명성, 설명 가능성, 개인정보보호, 공정성 등을 신뢰 가능한 AI의 핵심 요소로 제시한다. 동시에 거버넌스, 위험 식별, 측정, 관리 같은 조직 기능을 중심에 두고 AI 위험을 다루도록 설계돼 있다. 이 교수는 이런 국제 기준이 앞으로 각국 규제와 기업의 현장 운영 기준에 실질적인 영향을 미칠 가능성이 크다고 봤다.

유럽의 흐름도 비슷한 방향으로 소개됐다. 유럽은 범용 AI 모델에 대해 저작권 준수와 학습 데이터 관련 투명성을 요구하는 한편, 위험도가 높은 시스템에는 모델 평가, 위험 완화, 사고 보고 등 더 엄격한 의무를 부과하는 구조를 강화하고 있다. 인간의 기본권과 사회질서에 중대한 영향을 줄 수 있는 영역에는 기본권 영향평가와 적합성 평가까지 요구하고, 민감한 특성 분류나 생체정보 추출, 감정 인식 같은 활용에는 제한 또는 금지에 가까운 접근을 취하고 있다. 다만 유럽 내부에서도 규제가 지나치면 혁신을 위축시킬 수 있다는 논쟁이 이어지고 있다는 점도 함께 언급됐다.

이 교수는 이런 국제 흐름을 설명하면서 AI 위험을 더 이상 서비스 오류나 일부 사용자 피해 차원에서 볼 수 없다고 했다. AI는 이제 조직 운영, 사회 시스템, 공급망, 국가 기반시설, 군사적 활용까지 동시에 연결되는 구조로 확장되고 있다. 따라서 세이프티와 시큐리티, 국가안보를 각각 따로 다루는 방식은 현실을 따라가기 어렵고, 범정부 차원에서 이를 통합적으로 바라보는 거버넌스가 필요하다고 했다.

한국의 상황에 대해서도 이 교수는 현 정부 들어 국가 AI 전략체계 정비가 속도를 내고 있다고 평가했다. AI 수석실 신설, 국가AI전략위원회 출범, 인공지능 기본법 시행 등 굵직한 제도 변화가 이어졌고, 이를 토대로 AI 관련 정책의 틀이 조금씩 갖춰지고 있다고 설명했다. 다만 이런 변화가 실제 현장 보안 역량 강화로 이어지려면 정책의 실행 방식도 함께 달라져야 한다고 강조했다.

이원태 국민대 교수. 3월 25일 데일리시큐-빔소프트웨어 공동 주최 CISO 조찬세미나에서 AI보안정책 관련 강연을 진행하고 있다.

문서 점검 중심에서 상시 검증 체계로

이 교수는 지금까지의 국내 보안정책이 서류와 체크리스트 중심의 정적 점검에 머물러 있었다고 지적했다. 1년에 한 번 문서를 제출하고 규정 준수 여부를 확인하는 방식으로는 빠르게 진화하는 공격 환경을 감당할 수 없다는 것이다. 특히 AI가 공격 속도와 자동화 수준을 급격히 끌어올리는 상황에서는 사람의 시간으로 기계의 시간을 따라가는 것 자체가 불가능하다고 진단했다. 이제는 사후 대응 중심 체계에서 벗어나 선제적이고 예방적인 보안정책으로 넘어가야 하며, 실제 침해 상황을 전제로 한 복원력 중심의 운영 체계를 상시적으로 갖춰야 한다고 강조했다.

이런 문제의식은 그가 참여한 인공지능 행동계획의 보안 과제에도 반영됐다. 이 교수는 보안 관련 과제가 크게 세 축으로 구성돼 있다고 설명했다. 첫 번째는 공공과 민간 전반의 AI 보안 생태계를 활성화하는 과제다. 단순히 기술 몇 개를 도입하는 수준이 아니라, 국내 정보보호 산업의 자생력과 경쟁력을 키우고 AI 환경에 맞는 보안 제도를 공공과 민간 전반에 뿌리내리게 하는 데 초점이 맞춰져 있다. 두 번째는 보안 분야의 초격차 기술 확보와 인재 양성이다. AI 강국을 말하면서도 보안 기술과 인재 기반이 약하면 전체 전략이 흔들릴 수밖에 없다는 판단이다. 세 번째는 외국발 사이버 공격과 AI 기반 위협에 대응하는 국가안보 차원의 체계 구축이다. 이 부분은 국제 공조, 위협 정보 공유, 규범 형성까지 포괄하는 장기 과제로 제시됐다.

공격표면관리와 VDP, 이제 제도화 단계로

정책 과제 가운데 현장 참석자들의 관심을 가장 많이 끈 부분은 공격표면관리와 VDP(Vulnerability Disclosure Program. 취약점 공개 프로그램)였다. 이 교수는 앞으로 ISMS와 ISMS-P 같은 인증체계에도 공격표면관리 개념이 더 강하게 반영돼야 한다고 강조했다. 기업과 기관이 실제로 어떤 자산을 외부에 노출하고 있는지, 어떤 취약점이 방치돼 있는지, 공격자가 어디를 통해 침투할 수 있는지를 상시적으로 파악하고 관리하는 체계가 인증의 핵심으로 들어와야 한다는 의미다. AI 시대 보안은 형식적 준수보다 실질적 노출 관리가 더 중요해지고 있다는 설명이었다.

취약점 공개와 보상 체계인 VDP의 제도화 필요성도 강조했다. 그는 기존의 버그바운티 제도가 일회성 이벤트로 운영되는 경우가 많았고, 강제성이 약해 참여 기업 수가 줄어드는 한계를 드러냈다고 봤다. 반면 앞으로 필요한 체계는 365일 24시간 상시 운영되고, 화이트해커가 정당한 절차에 따라 시스템을 점검하고 취약점을 발견해 신고할 수 있도록 제도적으로 뒷받침하는 구조라고 설명했다. 이를 위해서는 단순히 신고 창구를 만드는 수준을 넘어, 정당한 보안 연구 활동에 대한 면책, 발견된 취약점을 개선하려는 기업에 대한 세이프 하버, 법적 책임 조정까지 포함하는 입체적인 제도 설계가 필요하다고 했다.

이 교수는 이 과정에서 여러 법령의 정비가 불가피하다고도 말했다. 정보통신망법과 개인정보보호법, 저작권 관련 제도까지 손봐야 할 부분이 적지 않다는 것이다. 보안 연구 과정에서 네트워크 탐지와 스캐닝 자체가 위법 소지가 되지 않도록 정당한 예외를 인정하고, 취약점을 장기간 방치한 기업이 발견 이후 이를 시정하려 할 경우 일정 부분 책임 경감의 근거도 필요하다는 설명이다. 결국 AI 보안정책은 기술 기준 몇 개를 추가하는 수준이 아니라, 제도와 규제 철학 자체를 다시 설계하는 작업이라는 점을 분명히 했다.

K-보안 특화 AI와 위협 인텔리전스 체계 구축 필요

이 교수는 한국형 AI 보안정책이 단순히 해외 모델과 제도를 따라가는 데 그쳐서는 안 된다고도 말했다. 현 정부가 독자 파운데이션 모델 개발을 국가 전략으로 추진하는 것처럼, 보안 분야에서도 한국의 위협 환경과 산업 구조에 맞는 특화 모델과 체계를 갖춰야 한다는 것이다. 그는 K-사이버보안 특화 거대언어모델 개발 필요성을 언급하며, 국내 보안 운영 환경과 침해 양상, 언어적 맥락에 맞는 AI 모델이 있어야 실제 현장에서 더 높은 효율을 낼 수 있다고 설명했다.

민간 주도의 위협 인텔리전스 체계 구축도 주요 과제로 제시됐다. AI 기반 위협이 빨라질수록 기업과 기관이 개별적으로 대응하는 방식에는 한계가 크기 때문에, 위협 정보를 공유하고 분석하는 구조를 더 촘촘하게 만들어야 한다는 것이다. 이 교수는 미국이 먼저 이런 체계를 강화하고 있다고 언급하면서, 우리도 AI 기반 위협 정보 공유·분석센터를 구축해 민간과 공공의 대응 역량을 함께 끌어올릴 필요가 있다고 강조했다.

“AI 3강 말하면서 보안 예산은 턱없이 부족”

예산 문제도 이날 강연에서 빠지지 않았다. 이 교수는 AI 경쟁력 강화를 위해 막대한 투자가 논의되고 있지만, 정작 보안 연구개발 예산은 여전히 너무 적다고 지적했다. 국내 보안 R&D 분류 체계는 AI 모델 보호, AI 활용 보안, 양자내성암호 전환, 제로트러스트, 클라우드 보안, 데이터 보안, 공급망 보안, 모빌리티 보안, 위성 보안, 지능형 영상 보안 등으로 이미 넓게 짜여 있지만, 실제 투자 규모는 AI 국가 전략의 무게에 비해 충분하다고 보기 어렵다는 것이다.

그는 AI 3강을 이야기하면서 보안에 대한 투자가 지금 수준에 머물러서는 안 된다고 했다. 국가AI전략위원회 안에서도 보안 예산을 지금보다 훨씬 확대해야 한다는 문제의식이 공유되고 있으며, 전체 R&D 예산 중 일정 비율 이상은 보안 분야에 안정적으로 배정해야 한다는 방향이 논의되고 있다고 설명했다. AI 전략과 보안 전략을 별도 항목처럼 취급하는 방식에서 벗어나, 처음부터 같은 프레임 안에서 함께 설계해야 한다는 의미다.

한국이 AI 경쟁력을 확보하려면 모델 성능과 산업 육성만으로는 부족하다. 공격표면관리, 상시 검증, 취약점 공개와 보상 체계, 보안 특화 AI 기술, 공급망 보호, 데이터센터와 전력망 같은 인프라 방어, 그리고 국가안보까지 한 흐름으로 묶는 통합 정책이 함께 움직여야 한다는 것이다. AI 정책의 중심이 안전에서 보안과 안보로 옮겨가고 있는 지금, 한국 역시 문서 중심의 점검 체계에서 벗어나 실제로 작동하는 보안정책으로 넘어가야 한다는 점을 이 교수는 거듭 강조했다.