[안현실칼럼]인공지능(AI)보다 무서운 것

강대국 AI 패권 경쟁·정치 분열 심화

인간의 오판·갈등이 전쟁 위험 키워

국가 운영 방식·제도 ‘공진화’ 필요

▲ 안현실 UNIST 연구부총장

0.55% 대(對) 0.13%. 기원전(B.C.) 인류가 150명 정도의 소규모 집단으로 수렵 채집 민 생활을 할 때다. 0.55%는 당시 연간 전체 사망에서 싸움으로 죽은 사람의 평균 비율이다. 0.13%는 기원후(A.D.) 제국의 등장부터 2차 세계대전까지 전쟁으로 인한 사망의 평균 비율이다. 이걸 보고 ‘문명의 진화’라고 해야 할까. 아니면 인류는 전쟁을 피할 수 없느냐는 물음을 던져야 할까.

이 순간에도 전쟁이 벌어지고 있다. 러시아-우크라이나, 미국·이스라엘-이란 전쟁이 그렇다. 21세기의 4분의 1이 지난 시점에 아직도 침략전쟁이라니. 과거 세계대전처럼 많은 국가가 참전하는 전쟁은 없다지만, 글쎄다. 국지전, 테러, 학살 등이 어느 시점에 확전으로 번지지 말란 법도 없다. 전쟁에 이용될 수 있는 기술은 눈부시게 진화하고 있는데, 정작 국가를 운영하는 방식, 의사결정 방법 등이 상응하는 진화, 즉 공진화(co-evolution)하지 못하면 말이다. 지금처럼 쪼개지는 세계라면 더욱 위험하다.

미국과 중국이 정상회담에서 나눴다는 인공지능(AI) 담론이 씁쓸하게 느껴진다. “AI 개발 속도를 늦출 필요 없다”(도널드 트럼프 미국 대통령)와 “AI는 인간에 의해 통제돼야”(시진핑 중국 국가주석) 발언을 도대체 어떻게 받아들여야 하나. 트럼프의 발언이 규제개혁에 대한 신념 또는 인간의 공진화 능력을 신뢰하는 낙관적 진보사관에서 나온 것이면 또 모르겠다.

아니다. 그는 말했다. AI 규제나 속도조절이 미국 기업을 후퇴시켜 중국과의 AI 경쟁에서 불리하게 만드는 일종의 음모론인 것처럼. 오로지 중국만 이기면 된다는 사고의 밑바탕엔 패권주의, 극단적으로는 전쟁사관이 깔려 있다. 시 주석의 발언도 그렇다. 그가 말하는 인간은 누구인가. 중국은 정치적으로 민주주의 국가가 아니다. 중국은 공산당이 통치한다. 그렇다면 시 주석 발언의 보다 정확한 표현은 “AI는 공산당에 의해 통제돼야”가 아닐까. 양대 강대국 지도자의 인식이 AI보다 무섭다.

수렵 채집 민 시절 인류가 싸움을 많이 했던 배경에는 같은 식구라는 ‘우리’와, 경쟁하는 관계라는 ‘저들’이 있다. 전쟁은 집단 대 집단의 싸움이다. 우리는 ‘선’이고 저들은 ‘악’이라고 규정하는 순간 전쟁은 시작된다.

이 대목에서 존 다우어(John Dower)의 <전쟁의 문화(Cultures of War)>를 잠깐 소환해보자. 전쟁을 시작하려고 할 때의 공통적 특징이 소개되고 있다. 1)내부 이견과 비판을 배제하는 인지적 오류를 범한다． 2) 과거의 역사적 과오에 대한 기억은 지우고 자신에게 유리한 서사만 기억한다．3) 상대에 대한 과소평가의 희망회로를 돌리고 과도한 내셔널리즘에 사로잡힌다．4) 문화적·인종적 편견에 기반한 선과 악의 이분법을 동원한다. 이런 전쟁의 결과는 짐작하는 대로다.

인류가 너무 오랫동안 수렵 채집 민 생활을 하면서 길들여진 소규모 집단 리더십에서 별로 진화하지 못한 게 아닌가 하는 의문이 들 떄가 종종 있다. 21세기에 한 국가의, 그것도 강대국의 지도자라고 하기엔 너무 위험한 인물이 많아서다.

이 맥락에서 보면 AI 속도조절론을 말하는 AI 기업 CEO, AI 교수 등 일단의 전문가들이 진짜 두려워하는 것은 AI가 아닐 것이란 추론도 가능하다. 이들이 바보가 아닌 바에야 속도조절론이 현실에서 먹혀들 리 없다는 점을 모를 리 없다. 어쩌면 이들은 AI 자체가 아니라, 인간의 행태와 제도가 AI와 공진화하지 못한 채 미스매치가 확대되는 현실을 위험하다고 본 것은 아닐까. 미스매치가 확대되면 AI는 산업 효율이나 인간 행복이 아니라 엉뚱하게 악용될 여지가 그만큼 커지게 된다. 가장 위험한 것이 리더의 오판에 따른 전쟁이다. 지금도 산업 AI와 달리 전쟁 AI가 얼마나 빠르게 진화하고 있는지 파악조차 할 수 없을 정도다.

국가 간의 전쟁만이 아니다. 같은 국가, 같은 민족이라는 우리 사회를 보자. 편을 갈라 죽기 살기로 싸우는 이 나라 정치지도자란 사람들도 다를 게 없다. 국가 생존 따위는 안중에도 없이 내전을 방불케 할 정도다. 국가 미래를 위협하는 정치가 AI보다 무섭다.

안현실 UNIST 연구부총장

경상일보