[현장] "커지는 AI 위협, 산·학·연 공동체 간 협력이 관건"

3일 열린 고려대학교 AI보안연구소 개소 기념 토론회 현장. (왼쪽부터) 과학기술정보통신부 김창오 정보보안 PM, KISA 정현일 연구위원, 국가AI전략위원회 이원태 보안 특별위원장, 고려대 이상근 AI보안연구소장, 김명주 AI안전연구소장, 연세대 권태경 정보대학원 교수, 한국자동차연구원 전병욱 AI·자율주행기술연구소장. (사진=김호준 기자)

[아이티데일리] AI 시대를 맞아 급증하는 사이버 위협 대응을 두고 전문가들이 공동체 협력을 강조했다. 기업·기관·대학이 협력하며 사이버보안을 강화하는 방안을 모색해야 한다고 입을 모았다.

고려대학교 AI보안연구소가 3일 연구소 개소를 기념하는 토론회를 개최했다. 좌장은 맡은 고려대 이상근 AI보안연구소장을 중심으로 전문가 6명이 ‘어떻게 AI 신뢰 1위 국가가 될 것인가’를 주제로 논의했다.

지난달 말 미국 샌프란시스코에서 열린 ‘RSAC 2026’는 ‘공동체의 힘(Power of Community)’을 주제로 열렸다. 공동체를 강조한 이유는 사이버 공격이 단일 주체가 대응하기 힘든 수준으로 급증하고 있기 때문이다. 실제 취약점 침해는 매년 35%씩 증가하고 있으며, 2024년에는 취약점이 공개되기도 전에 공격이 발생한다는 통계까지 나왔다.

과학기술정보통신부 김창오 정보보안 PM은 “2024년 취약점 침해가 발생하는 데 ‘-1일’이 걸린다는 분석이 나왔다. 이는 취약점이 공개되기도 전에 침해가 일어난다는 함의를 담고 있다”며 “이제 사이버보안은 하나의 주체가 해결할 수 없는 문제다. 산학연 모두 머리를 맞대고 풀어가야 한다”고 말했다.

전문가들은 각 분야에서 AI 보안을 위한 개선 과제를 제언했다. 먼저 연세대 권태경 교수는 인프라 지원을 강조했다. AI 보안 연구를 위해 그래픽처리장치(GPU) 자원을 비롯한 밑바탕이 필요하다는 의견이다.

권태경 교수는 “2025년은 20년 넘는 교수 생활 중 가장 많은 과제를 수주한 해였다. 동시에 가장 연구비가 부족한 해이기도 했다”며 “GPU 장비 마련에 어려움이 많았으며 이를 위해 투자된 비용도 상당했다”고 말했다. 이어 “AI 보안 연구를 이어간다면 이러한 고충이 지속될 것”이라며 “빠른 기술 발전을 학계가 따라가기 위해서는 인프라·비용이 뒷받침돼야 한다”고 덧붙였다.

한국인터넷진흥원 정현철 연구위원은 IT 자산 식별을 강조했다. 정 위원은 “에이전틱 AI는 다양한 시스템과 연계돼 업무를 수행하는 능력까지 갖췄다. 이는 양날의 검이다. 유용한 기능을 제공하기도 하지만 해킹되면 더 큰 위험으로 다가올 수 있다”며 “시스템에 연결된 AI가 해킹에 악용되지 않도록 가시성을 확보하는 것이 중요하다”고 조언했다.

한국자동차연구원 전병욱 AI·자율주행연구소장은 자동차 산업에서 바라보는 AI 보안을 이야기했다. 자율주행 기술은 다량의 주행 데이터를 AI에 학습시킨 뒤 AI가 스스로 정확도를 높이는 구조로 발전하고 있다. 성능이 크게 개선됐지만 보안 측면에서는 과제를 남기고 있다. AI가 어떻게 자율주행을 가능케 하는지 그 원리를 알지 못하기 때문이다.

이러한 상황을 두고 전병욱 소장은 피지컬 AI가 위협에 견딜 수 있는 강건성과 AI가 사고를 일으키지 않도록 제어하는 안전 가드레일이 발전돼야 한다고 강조했다.

국가AI전략위원회 이원태 보안 특별위원장은 “미래의 사이버보안을 위해서는 기술 개발만 집중해서는 부족하다. 연구 성과가 산업과 정책, 그리고 현장까지 연결되는 생태계 마련이 중요하다”며 “AI 보안 전반을 아우르는 연구 조직이 필요하다. 오늘 개소한 고려대 AI보안연구소가 그 역할을 해 주길 바란다”고 조언했다.

고려대 이상근 AI보안연구소장은 토론회를 정리하며 “AI로부터 뛰어난 결과물을 얻으려면 개인정보, 민감정보를 더 제공해야 하는 딜레마에 놓여 있다”며 “위험과 혁신이 공존하는 상황에서 신뢰할 수 있는 AI를 위해선 각계각층의 협력이 필요한 시점”이라고 강조했다.

한편, 이날 고려대 정보보호대학원은 AI보안연구소를 출범했다. 신뢰할 수 있는 AI 개발과 AI 위협 대응 체계 마련을 목표로 하는 연구소는 향후 국가 전략 수립, 정책 개발 등을 지원할 예정이다. 초대 연구소장은 고려대 이상근 사이버보안학부 교수가 맡았다.