[인터뷰] "미토스 상용화되면 1년 안에 해킹 공격 폭증"

윤인수 한국과학기술원(KAIST) 전기및전자공학부 겸 정보보호대학원 교수

photo 이신영 영상미디어 기자

"미토스가 당장 세상을 뒤집을 특이점은 아닐 수 있습니다. 하지만 대응은 최악의 경우를 가정하고 시작해야 합니다. 진짜 문제가 확인된 뒤 움직이면 이미 늦습니다."

지난 4월 27일 대전 한국과학기술원(KAIST)에서 주간조선과 만난 윤인수 전기및전자공학부 겸 정보보호대학원 교수는 앤트로픽의 AI 해킹 모델 '클로드 미토스 프리뷰'를 두고 이렇게 말했다.

윤인수 교수는 지난해 8월 미국 국방고등연구계획국(DARPA)이 주관한 'AI 사이버 챌린지(AIxCC)'의 우승팀 '팀 애틀랜타'의 패치(수정 코드) 개발팀을 이끌었다. AIxCC는 총상금만 2950만달러(약 434억원)에 달하고, 구글·마이크로소프트 등 글로벌 IT 기업들이 협력사로 참여한 세계 최대 규모의 AI 보안 경진대회다. 윤 교수는 이밖에도 세계 최대 해커 콘퍼런스인 '데프콘(DEF CON)'에서 열린 해킹대회 'CTF'에서 2015년과 2018년 두 차례 우승했고, 2020년에는 애플 사파리 브라우저의 제로데이(개발사도 몰랐던 결함)를 찾아내기도 했다.

윤 교수는 작년 대회를 회상하며 "대회가 끝난 지 1년도 채 지나지 않았는데, 그 사이 AI 해킹 기술이 너무 많이 바뀌었다"고 했다. 그는 "본선 대회가 끝나던 당시에도 AI만으로는 취약점을 찾아내기는 역부족이었다"면서도 "올해 초부터 그 가능성을 점점 체감해왔고, 미토스는 AI 해킹의 성능 향상이 현실적 보안 우려로 이어질 수 있음을 드러낸 사례"라고 말했다.

"해킹 방어는 인간과 AI가 협력해야"

"아직 미토스를 사용해본 적이 없어서 성능을 당장 평가할 수는 없습니다. 다만 적어도 대응하는 입장에서는 앞으로 최대한 보수적으로 접근해 체계를 구축해야 할 겁니다. 무조건 보안망이 뚫릴 거라는 전제에서 체계를 재조정하는 거죠. '아직 실체를 모르니 미토스를 파악하는 게 먼저다'라는 의견도 있는데, 이건 너무 늦습니다. 하루라도 빨리 대응 체계를 준비해야 합니다."

윤 교수는 미토스와 기존 AI 에이전트의 가장 큰 차이로 '공격 능력'을 꼽았다. 해킹은 프로그램의 빈틈을 찾아내고, 그 빈틈을 실제 공격으로 연결하는 두 단계로 구성된다. 그는 "그간 AI가 취약점을 찾는 능력은 우리 연구소에서도 최근 성과가 있었다"며 "다만 공격 능력은 상대적으로 떨어졌는데, 미토스가 그 지점을 상당히 보완해 나온 것으로 보인다"고 분석했다.

방어 과정에서는 공격 탐지와 취약점 식별보다 패치 개발이 더 어려운 단계라고 봤다. 윤 교수는 "방어에는 만병통치약이 없다. 또 방어는 100%를 요구하지만 AI는 확률적으로 작동하기 때문에 AI만으로는 100%에 도달하기 어렵다"며 "결국 공격 가능한 범위를 최대한 줄이기 위해 AI와 전통 방어를 결합해야 한다"고 말했다. 이어 "그에 따라 방어 체계 구축 비용도 필연적으로 커질 수밖에 없다"고 내다봤다.

"작년 대회를 돌아보면 패치 개발 배점이 취약점 발견보다 3배 높았습니다. 당시에는 취약점 발견이 더 어렵다고 생각해 솔직히 이해가 되지 않았어요. 그런데 지금은 사람 혼자 작업하는 능력이 1이라면, 사람과 AI의 협업은 5 정도의 효율을 내고, AI 혼자 작업하면 효율이 100까지 늘어난다고 보시면 됩니다. 이걸 공격·방어 체계에 적용하면 공격은 앞으로 대부분 AI가 스스로 수행하게 될 겁니다. 반면 방어는 AI와 사람이 함께해야 합니다. 패치는 새로운 코드를 만들어서 기존 프로그램에 삽입하는 작업인데, AI는 지금도, 앞으로도 잘못된 코드를 만들 위험이 있어 사람이 반드시 검수해야 하기 때문이죠. 그럼 방어는 5의 능력으로 100의 공격을 막아야 하는 상황에 놓이는 셈입니다."

윤 교수는 미토스와 같은 자율형 AI가 상용화되면 1년 안에 AI 해킹 공격이 폭증할 것이라고 경고했다. 그는 "제로데이가 쉽게 발견되기 힘든데, 작년 본선 대회에서만 전 프로그램을 합쳐 제로데이가 20건 가까이 발견됐다"며 "그때보다도 기술이 훨씬 진일보한 지금은 주요 소프트웨어에서 발견되는 취약점의 수가 기하급수적으로 늘어날 수 있다"고 말했다.

한국 AI 세계 3위권… 미·중과 격차 커

윤 교수는 연구·개발뿐 아니라 학내 교육과 후학 양성에도 성과를 내고 있다. 그가 2024년 개설한 '소프트웨어 해킹 이론과 실습' 강의는 KAIST에서 우수강의로 선정됐고, 윤 교수 연구실 소속 이승현 군은 2024년 국제해킹대회 'Pwn2Own'에서 구글 크롬과 마이크로소프트 엣지의 취약점 공격에 성공해 상금 14만5000달러(약 1억9000만원)를 수령했다.

때문에 그는 요즘 한국의 AI 역량에 갖는 관심이 상당하다. 윤 교수는 현재 한국의 AI 역량을 미국과 중국에 이은 세계 3위권으로 평가했다. 그는 "우리나라의 인재 풀을 고려하면 세계 3위 역량을 발휘한다는 자체가 대단한 일"이라면서도 "다만 자원·인력 등으로 인해 미국, 중국과 우리나라 사이의 격차는 여전히 크다"고 분석했다. 실제로 미 스탠퍼드대 인간중심AI연구소(HAI)가 지난 4월 13일 발표한 'AI 인텍스 2026'에 따르면 2025년 공개된 '주목할 만한 AI 모델' 수는 미국이 50개, 중국이 30개였다. 한국은 3위에 올랐지만 그 수가 5개로 미국의 10분의1, 중국의 6분의1 수준에 그쳤다. 윤 교수는 "미국(구글)의 제미나이, 중국의 딥시크 등과 같은 세계적으로 주목받은 AI 모델이 아직 한국에서는 나오지 않은 것도 비슷한 맥락"이라며 "현재 흐름이라면 중국도 6개월에서 1년 안에 미토스와 비슷한 수준의 자율형 AI 모델을 개발할 수 있을 것"이라고 말했다.

윤 교수는 국내 보안 체계가 안고 있는 사회적 인식과 제도적 한계도 짚었다. 그는 "한국은 보안체계를 형식적으로 운영해 온 경향이 있다"며 "보안에는 만병통치약이 없다고 말했듯 끝없이 연구해야 하는데, 우리나라는 체크리스트 몇 개만 통과하면 보안을 잘한다고 인정해주는 식이었다. 그러다 보니 인증 항목 바깥의 역량을 키울 동기가 약해져 있었다"고 지적했다. 이어 "현재는 보안을 중요시하는 움직임이 포착되지만, 그간 보안을 등한시한 기간이 너무 길었다"며 "이를 단기간에 해결할 수 있는 문제로 봐서는 안 된다"고 제언했다.

그는 지난 3월 발표된 개인정보보호법상 과징금 강화를 예시로 들었다. 정부는 반복적이거나 중대한 개인정보 유출 사고에 대해 과징금 상한을 전체 매출액의 기존 3%에서 최대 10%까지 높이는 개정 개인정보보호법을 발표했다. 윤 교수는 "국민 입장에서는 최근 잇따른 보안 사고에 비해 과징금이 약하다고 느낄 수 있지만, 매출의 10%는 기업 존립을 흔드는 수준"이라며 "그렇게 되면 사고를 투명하게 신고하기보다 '차라리 숨기는 게 낫다'는 유인이 생길 수 있다"고 지적했다. 이어 "AI 공격이 보안 사고의 속도와 규모를 키울 수 있는 만큼 처벌 강화만으로는 대응이 어렵다"며 "기업이 사고를 공유할 수 있는 체계와 실제 방어 역량을 개선하는 범국가적 지원이 더해져야 한다"고 덧붙였다.