[정정당담] AI가 주도한 첫 전쟁?

미국, 이란 공격에 인공지능 예측 활용

인간 목숨으로 학습하는 AI 만드는 만행

1991년, CNN은 미국이 중심이었던 다국적군의 이라크 침공을 최초로 TV 생중계했다. 칠흑 같은 밤하늘에 쏟아지는 섬광과 불길이 화면을 뒤덮었다. 그러나 어디에도 침투 중인 군대와 폭격으로 목숨을 잃은 사람들은 보이지 않았다.

2026년, 첨단 무기의 우수성과 무고하게 죽어간 이들의 숫자만 나오는 전쟁 보도는 낯설지 않은 시대가 됐다. 한 달 전 발발한 미국･이스라엘의 이란 침공과 중동 전역으로 확산해가는 전쟁도 TV뿐 아니라 유튜브 실시간 중계가 더해져 무기와 숫자만 나오는 전쟁 영상이 하루에도 수백 건씩 쏟아지고 있다.

그런데 이번 전쟁에서 보이지 않는 것은 사람만이 아니다. 전쟁에 쓰이고 있다는 인공지능(AI)이 그렇다. 전쟁 보도에서 사진과 영상은 이전과 크게 다르지 않지만 제목은 달라졌다. “AI가 주도하는 첫 전쟁”, “AI가 주도한 최초의 공습”, “휴민트와 AI 합작품” 등등. 물음에 답하고 글을 대신 써주며 대화를 나누던 AI가 전쟁 전략과 전술 결정의 두뇌가 됐다는 보도가 전쟁 피해 보도만큼 많아졌다.

AI는 방대한 데이터를 이용해 적군의 무기 배치와 병력 이동 현황을 실시간 지도와 수치로 보여준다. 이를 바탕으로 또 다른 AI는 공습의 성공 확률이나 적군의 공격 시기를 예측하고 성공 확률이 높은 전술이 무엇인지 답을 준다. 하지만, 전쟁에 사용하는 AI도 논리명제와 확률함수로 계산한다는 점에서 우리 일상의 AI와 크게 다르지 않다.

AI 알고리즘의 기초 중 하나는 미래 가치 함수다. 공격 개시 직후부터 일주일 후 폭격까지 얼마나 많은 성과를 거둘지 확률로 계산한 예측값이 지금 작전의 선택지를 제시한다. 그런데 AI 알고리즘의 미래는 미사일 발사 버튼을 누르는 순간 지휘관의 선택을 결정한 원인, 즉 과거가 된다. 알고리즘의 미래가 인간의 과거가 되는 역설인 셈이다. 그래서 가장 정확한 전쟁 AI란 예측값이 최소의 오차로 전투 결과에 부합해야 하고, 이때 발생한 오차를 예측값의 정확도를 높기 위한 학습 데이터로 쓰는 AI다.

중동전쟁을 촉발한 미국･이스라엘의 이란 최고위 지도부 공격에 AI가 큰 역할을 했다고 한다. 공격 당시 AI 예측은 최소 오차를 보였을지 모른다. 그러나 허위･선전정보가 폭발적으로 증가하고 단 몇 초 동안 결정이 바뀌는 전쟁의 우발성과 불확실성은 시간이 갈수록 높아져 간다. 증가하는 불확실성은 AI의 미래 가치 함수를 더욱 복잡하게 만든다.

그럼에도, 예측 오차를 최대한 줄이려는 AI 알고리즘은 자신이 예측한 미래를 현실로 만들기 위한 수단으로 전쟁 결정권자와 군대를 이용할 것이다. 결국, 더욱 많은 전쟁 사상자가 나올수록 AI의 정확도는 높아질 수 있다.

미래에 대한 예측이 현재의 선택을 결정하는 원인이 되고 현재의 선택이 끝내 예측한 미래를 완성하는 이 역설을 ‘자기충족적 예언’이라고 한다. 그러나 불확실성과 우발성이 지배하는 전쟁에서 AI의 자기충족적 예언이 맞을 확률은 갈수록 떨어질 것이다. 바로 학습 데이터 그 자체의 변덕 때문이다. 전쟁의 최고 결정권자인 트럼프 미국 대통령의 변덕이 대표적이다. 살아 있는 인간이 남긴 자취로 학습하던 AI를 아무런 죄도 없이 죽어간 인간의 목숨으로 학습하는 AI로 만드는 만행을 지금 누가 저지르고 있는가.

/김동원(언론개혁시민연대 정책위원)