핵무기 시대를 지배했던 공포의 균형이 인공지능(AI) 군비 경쟁 앞에서는 통하지 않을지도 모른다. 공멸의 불안감 때문에 유지됐던 억제력이, 이성도 공포도 없는 알고리즘에선 무력해질 수 있어서다.
15일(현지시간) 뉴욕타임스(NYT)에 따르면 냉전기를 지탱한 안보 원리는 ‘상호확증파괴(MAD)’다. 핵에는 핵으로 보복당해 모두 큰 피해를 볼 거란 인식이 핵 공격을 막았다. 하지만 AI 군비 경쟁에선 이 전제가 성립하지 않는다. 억제력이 작용하려면 상대 보복 능력을 확실히 알아야 하지만 AI 체계는 발전의 한계가 명확하지 않아 파악이 어렵다. 대부분의 프로그램이 연구·개발 단계에 있고 예산은 기밀이다. NYT는 “미·중·러 정보기관은 서로 상대의 역량을 추론하고 있지만, 정확히 어느 쪽이 얼마나 앞서 있는지는 불분명하다”고 봤다.
구조적 차이도 주목된다. 냉전 시대 핵 무력 경쟁은 정부 또는 군이 주도했지만, AI 경쟁은 스타트업과 벤처 투자자가 주역이다. 미국의 국가 방산 주도권은 실리콘밸리 기술 기업으로 넘어갔다. 미 국방부의 AI 두뇌로 여겨지는 ‘프로젝트 메이븐’이 대표적이다. 2017년 출범한 프로젝트는 2019년부터 미 기업 팔란티어가 운용 중이다.
메이븐은 이란 전쟁에서 증명됐다. 브래드 쿠퍼 미 중부사령관은 작전 개시 초기 몇 주간 메이븐이 “수천 개의 표적을 생성했다”고 평가했다. 에밀리아 프로바스코 조지타운대 안보·신흥기술센터 선임연구원은 NYT에 “대규모 데이터 유입과 운용 인력의 숙련도가 미국의 우위를 만들고 있는 것”이라며 “중국도 유사한 체계를 갖고 있을 가능성이 크다”고 진단했다. 하지만 개발 문턱이 낮아진 만큼 종결점도 뚜렷하지 않아 소모적 혁신 경쟁이 이어질 가능성이 크다.
더구나 인간의 판단 속도를 훌쩍 뛰어넘는 미래 AI 전쟁에서 인간 역할은 한정적이다. 이는 이란전쟁 후 팔란티어가 주최한 콘퍼런스에서 잘 드러난다. 시연 영상 속 위성 화면에서 적의 창고 앞 흰색 트럭 행렬이 포착되자 아군 장교는 마우스로 이를 클릭했다. AI는 단 수 초 만에 해당 표적에 가장 적합한 무기를 제안했고 비용까지 따져 완벽한 공격 계획을 수립했다. 인간이 숙고하는 시간은 필요하지 않았다. 미 관계자는 “인간의 개입은 ‘왼쪽 클릭, 오른쪽 클릭’ 정도였다”고 말했다.
문제는 AI가 실수할 경우다. 지난 2월 28일 미군 토마호크 순항미사일이 이란 남부 미나브시 한 초등학교를 때려 165명의 학생·교직원·학부모가 숨졌다. 한때 이란 이슬람혁명수비대(IRGC) 해군 시설의 일부였던 이곳을 AI가 낡은 데이터를 바탕으로 오판해 타격했을 가능성이 제기된다.
그럼에도 AI 군비 경쟁은 계속되고 있다. NYT에 따르면 미국은 최신 예산안에 자율무기 시스템 개발용으로 130억 달러(약 18조원) 이상을 편성했다. 중국 투자 규모도 미국에 비견되는 수준으로 추정된다. 러시아는 5년째 이어진 우크라이나 전쟁을 자국 자율무기의 실전 시험장으로 활용하고 있다. 우크라이나도 전장 데이터를 팔란티어 등에 제공하기 시작했다.
잭 섀너핸 전 미군 중장은 “(AI 전쟁에선) 상대가 무언가를 숨기고 있다고 느끼는 이상 안전하지 않은 시스템을 서로 전장에 투입하는 악순환이 생긴다”며 “기술이 통제를 벗어나기 전 한계선이 필요하다”고 조언했다.
댓글
0