오염된 데이터와 날뛰는 자율주행차 [AI가 바꾸는 세상]

AI 안보 넥서스 AI 사이버 위협

편집자주

인공지능(AI) 혁명이 근미래도 아닌 지금 당장 시작됐다. AI 혁명에 뒤지지 않기 위해 알아야 할 관련 상식과 AI 기술의 100% 활용법을 매주 연재한다.

지난 6일 발표한 ‘트럼프 행정부 사이버 전략(President Trump’s Cyber Strategy for America)’ 문서 표지 갈무리. 사진=백악관

인공지능(AI) 시대의 치명적인 사이버 위협은 네트워크 침입에서만 시작되지 않는다. AI를 학습시키는 데이터가 오염되는 순간, 위협은 이미 내부에서 시작된다. 우리는 이제 언뜻 가치를 평가하기 어려운 비정형 데이터라 하더라도 AI의 학습자원이 되어 광범위한 공격 수단으로 변모되는 이른바 'AI-데이터 안보 넥서스'(Nexus: AI와 데이터가 결합하며 새로운 안보 위협을 만들어내는 연결 구조)의 시대에 살고 있다.

지금까지 사이버안보가 마치 '성벽 밖의 침입을 차단'하는 데 주력했다면, AI 시대의 사이버안보는 '성문 안으로 스며드는 데이터의 오염'까지도 고려해야 하는 환경으로 변모하고 있는 것이다. 실제로 AI의 학습 데이터 자체를 은밀히 조작하여 AI의 판단 능력을 왜곡하는 시도가 빈번해지고 있으며, 이는 결과적으로 AI 시스템의 신뢰성을 파괴한다. 예를 들어 적대적 세력이 AI 학습 데이터에 악의적인 값을 주입하는 '중독 공격(Poisoning Attack)'을 감행하면, 자율주행차가 정지 표지판을 인식하지 못하거나, 자율무기가 시뮬레이션 과정에서 아군을 적군으로 판정하기도 한다. 이는 데이터 오염이 AI를 거쳐 언제든지 현실의 물리적 위협이 될 수 있음을 보여준다.

이러한 맥락에서 지난 6일 발표된 트럼프 2기 행정부의 사이버안보 전략은 '데이터-AI 안보 넥서스' 측면에서 주목할 필요가 있다. 우선 AI 기술 인프라와 데이터 층위 전체를 중요한 안보자산으로 명명했을 뿐만 아니라 적대국과 직간접적으로 연계된 기술 벤더(공급업체)를 공급망에서 분리하여 AI 학습 데이터의 청정성을 강화하다. 또한 과도하지 않은 '상식적 규제'를 지향하며 민간 부문이 AI 위협에 민첩하게 대응하도록 독려하고 있다. 나아가 차세대 신기술인 '양자내성암호(PQC)' 도입을 서두름으로써 더욱 고도화될 AI가 처리할 데이터의 무결성을 강화하겠다는 의지를 천명했다.

이러한 움직임은 AI 시대의 안보가 단순한 사이버 방어를 넘어 데이터와 AI 인프라 전반을 관리하는 새로운 패러다임으로 이동하고 있음을 보여준다. 우리 역시 AI 대전환의 시대에 부합하는 접근을 모색해야 한다. '제로 트러스트'(Zero Trust: 내부 네트워크라도 지속적으로 검증하는 보안 원칙), '다층보안체계' 역시 AI 학습 및 추론 단계에서의 데이터 보안을 중심으로 재설계돼야 민관군이 함께 AI의 무결성을 감시하는 통합 거버넌스 체계 역시 요구된다. 궁극적으로 'AI-데이터 안보'는 기술을 넘어 경제안보와 지정학적 차원의 도전이며, 개별 국가 단위에서 충분히 확보하기 어렵다. 우리는 'AI-데이터 신뢰 연대'를 강화함으로써 초국가적인 AI-넥서스 공격에 대응할 필요가 있다. 이 같은 인식의 전환이야말로 AI 안보 시대에서 우리의 주권과 안전을 지켜 나가기 위한 출발점이 될 것이다.

윤정현 국가안보전략연구원 AI안보연구센터장