[AI & 퍼스펙티브] 인간 형상의 기계가 방아쇠 앞에 섰을 때: AI 솔저 시...

우크라이나 전장에서는 소형 드론이 정찰 영상을 보내고 일부 AI 기반 표적·영상 분석 도구가 영상 속 목표물을 탐지·추적하거나 표적 후보 분석을 보조하는 데 사용된다는 보고가 나오고 있다. 인간 운용자가 짧은 시간 안에 교전 여부를 결정하는 사례 역시 늘고 있다. 발견에서 타격까지의 시간은 크게 단축되고 있다. 일부 AI 유도 드론은 최종 접근 단계에서 온보드 카메라와 유도 모듈을 이용해 표적 이미지에 ‘락온’한 뒤 조종자와의 통신이 불안정해지거나 끊겨도 자체 알고리즘을 통해 표적을 계속 추적·접근하도록 설계·운용되고 있는 것으로 알려져 있다. 여기에 2026년 3월 미국 시사주간지 TIME은 샌프란시스코 기반 로봇 스타트업 파운데이션(Foundation)이 2026년 2월 자사 휴머노이드 로봇 팬텀 MK-1(Phantom MK-1) 두 대를 우크라이나에 보내 최전방 정찰 지원 임무를 시험 중이라고 보도했다. 공개적으로 확인된 사례 가운데에서는 인간형 휴머노이드 로봇이 활성 전장에 배치된 첫 번째 사례로 주목받는다.

다만 지금 확인되는 현실은 인간이 완전히 배제된 자율무기체계가 우크라이나 전장에서 일반적으로 전쟁을 수행하고 있다고 보기는 어렵다. AI가 드론, 무인 지상체계, 지휘통제·영상분석 시스템, 일부 무기 플랫폼과 빠르게 결합하고 있다는 점이 핵심이다. 그렇기에 오늘의 질문은 ‘AI가 인간을 완전히 대신해 전투하는가’가 아니라 ‘AI와 로봇이 살상 판단의 절차 속으로 어디까지 들어왔는가’에 가깝다. 이 문제를 다룰 때 중요하게 논의되는 개념 가운데 하나가 ‘의미 있는 인간 통제(Meaningful Human Control)’다. 델프트공대의 필리포 산토니 데 시오와 예룬 반 덴 호번은 2018년 학술지에 발표한 논문에서 단지 인간이 시스템 옆에 서 있거나 마지막 승인 버튼을 누른다는 사실만으로는 통제라고 말할 수 없다고 주장했다. 그들에 따르면 통제가 의미 있으려면 적어도 두 가지 조건이 필요하다.

첫째, 시스템은 설계·배치·운용 과정에서 인간 행위자의 관련 도덕적 이유와 시스템이 작동하는 환경의 관련 사실에 적절히 반응할 수 있어야 한다. 전장 맥락에서는 적의 항복, 민간인의 출현과 같은 상황 변화가 그 예가 될 수 있다. 둘째, 시스템의 결과는 설계와 운용의 사슬 안에 있는 적어도 한 명의 인간 행위자에게 소급 가능해야 하며 그 인간은 시스템의 능력과 한계, 작동 맥락에 대해 적절한 이해를 가져야 한다. 인간이 로봇과 AI가 무엇을 어떻게 하는지 이해하지 못한 채 사실상 자동화된 권고를 그대로 승인하는 구조라면 서류상 ‘인간 통제’는 형식만 남고 실질은 사라진다.

여기서 ‘책임 공백(responsibility gap)’ 문제가 등장한다. 안드레아스 마티아스는 2004년 논문에서 학습 능력을 가진 자율 시스템의 행동에 대해 전통적인 방식으로 책임을 묻기 어려운 상황을 두고 이 용어를 썼다. 고도로 자율적이고 학습하는 시스템은 설계자와 운용자가 구체적으로 예측하지 못했던 방식으로 행동할 수 있다. 그럴 때 개발자는 모든 결과를 사전에 예상했다고 보기 어렵고 운용자는 모든 세부 행동을 직접 통제했다고 말하기 어렵다. 한편 AI와 로봇을 인간과 같은 도덕적·법적 책임의 주체로 보는 것에는 여전히 논쟁이 크다. 로버트 스패로우는 2007년 논문 ‘킬러 로봇’에서 이 문제를 자율무기체계에 적용해 자율무기가 전쟁범죄에 해당하는 행위를 저질렀을 때 프로그래머, 지휘관 또는 무기체계 자체 가운데 누구에게 책임을 물을 수 있는지를 묻는다. 그의 우려는 살상을 실제로 실행하는 주체와 도덕적·법적 책임을 져야 하는 주체가 쉽게 분리될 수 있다는 데 있다.

책임 공백 논의를 더 정확히 하려면 ‘책임’이라는 용어가 갖는 다층적 의미를 구분해 살펴볼 필요가 있다. 법철학자 허버트 하트는 책임을 역할 책임, 인과 책임, 부담 또는 법적 책임, 능력 책임 등 서로 다른 의미로 구분해 설명했다. 니콜 빈센트는 2011년 논문에서 이 논의를 발전시켜 덕성·능력·인과·결과·역할·법적 부담 책임의 여섯 개념을 구조화했다. 이 틀에서 보면, AI 시스템이나 로봇은 원인 사슬의 한 요소로서 인과적으로 피해 발생에 관여할 수 있고, 설계·운용 측면에서 기능적으로 수정·개선의 대상이 될 수 있다. 그러나 그것이 곧 비난받고 처벌받을 도덕적 주체가 된다는 뜻은 아니다.

존 다나허가 2016년 논문에서 제시한 ‘응보 공백(retribution gap)’은 이 지점을 더욱 날카롭게 드러낸다. 사람들은 심각한 피해가 발생하면 누군가를 비난하고 처벌하고 싶어 한다. 그런데 자율 시스템이 사고를 일으킨 사건에서는 정당하게 형사적·도덕적 응보를 가할 대상이 분명하지 않을 수 있다. 이 간극이 위험한 이유는 두 가지다. 하나는 사회가 잘못된 대상, 예컨대 저위직 운용자나 전혀 다른 집단을 희생양으로 삼을 수 있다는 점이다. 다른 하나는 실제 책임을 져야 할 개발자나 지휘관이 ‘AI가 판단했다’, ‘로봇이 그리 움직였다’는 말 뒤에 숨을 수 있다는 점이다.

마르쿠스 크니어와 마르쿠스 크리스텐이 2024년 학술지에 발표한 실증 연구는 스패로우(2007)가 제시한 자율무기 시나리오를 활용해 미국·일본·독일 응답자를 대상으로 진행한 결과 자율 시스템에 상당한 도덕적 책임을 부여하면서 동시에 인간 행위자 특히 지휘관과 프로그래머의 책임을 부분적으로 덜어주는 경향이 있음을 보여준다. 휴머노이드 솔저처럼 인간 형상을 한 기계가 등장할수록 이 도덕적 방패 효과는 더욱 강해질 가능성이 있다.

이러한 현실을 고려하면, AI 솔저와 전투 로봇의 윤리 기준은 기능별로 세분화해 논의할 필요가 있다. 정찰·감시·지뢰 탐지·부상자 후송처럼 인간의 위험을 줄이고 비전투원 보호에 기여하는 비살상·보조 기능은 상대적으로 정당화 가능성이 크다는 주장이 나온다. 반면 표적 식별 보조나 표적 우선순위 추천처럼 자동화 편향과 책임 분산이 쉽게 발생하는 기능은 투명한 설계·검증 절차와 엄격한 인간 검토를 필수 조건으로 붙여야 한다. 무엇보다 휴머노이드 로봇이든 드론이든 인간 개입 없이 자율적으로 인간 표적을 선정·공격하는 체계, 군집 드론의 자율 표적 배분과 공격, 얼굴 인식·생체 정보에 기반한 개인 표적화는 국제 인권·인도법 논의에서 대표적인 강한 우려와 규제 또는 금지 요구의 대상이 되고 있다.

따라서 ‘AI 솔저’와 전장 무기의 책임 문제를 의미 있게 논의하려면, 우리는 적어도 세 층위에서 구분하여 접근해야 한다. 첫째, ‘책임’이라는 단어가 어떤 의미로 사용되는지를 매번 명확히 해야 한다. 누가 그 사건을 인과적으로 일으켰는가를 묻는 인과 책임, 누가 비난받고 처벌받아야 하는가를 묻는 응보 책임, 무엇이 수정되고 개선되어야 하는가를 묻는 기능 책임은 서로 다른 차원의 물음이며 답하는 방식도 다르다. 하나의 사건에 대해 AI 시스템은 기능 책임의 대상이 될 수 있지만 응보 책임의 주체가 될 수는 없고, 인간 행위자는 인과 사슬의 어느 위치에 있느냐에 따라 응보 책임의 정도가 달라진다. 이 구분 없이 ‘누구 책임이냐’고 묻는 순간 논의는 공회전한다.

둘째, 도입된 시스템이 범용인지 특수 목적인지를 식별해야 한다. 범용 시스템은 다양한 사용자가 다양한 맥락에서 활용하기 때문에 책임이 사용자 측에 더 무겁게 분배되는 경향이 있고, 군사용으로 처음부터 설계된 특수 목적 시스템은 개발자와 발주자 그리고 배치를 결정한 지휘부의 책임이 훨씬 무거워진다. 전장에 등장한 시스템들이 어느 쪽에 속하는지에 따라 우리가 누구에게 어떤 책임을 물어야 할지 답은 달라진다.

셋째, 사용된 AI의 구체적인 기능과 목적을 세분화해야 한다. 같은 AI 기술이라도 지뢰 탐지에 쓰이는 것과 표적 식별 보조에 쓰이는 것 그리고 자율적 살상 결정에 쓰이는 것은 윤리적 무게가 전혀 다르며, 요구되는 인간 통제의 수준과 책임 구조 역시 달라야 한다. 이 세 층위를 분리해 묻지 않은 채 ‘AI 무기 윤리’를 일반론으로 다루는 순간, 우리는 정작 가장 중요한 구분 즉, 허용해야 할 것과 금지해야 할 것, 책임져야 할 사람과 면책되어야 할 사람을 놓치게 된다.

그러므로 우리가 던져야 할 질문은 ‘AI 무기는 모두 나쁜가’가 아니다. 어떤 ‘기능’을, 어떤 ‘조건’에서, 어떤 ‘인간 책임 구조 아래’ 허용할 것인가가 핵심 질문이다. AI와 로봇이 수행하는 기능이 정찰인지, 표적 식별인지, 교전 결정인지, 실제 발사·공격 실행인지 등 각 단계에서 인간은 시스템의 작동과 한계를 이해하고 실질적으로 거부·수정할 수 있는지, 시스템은 시간·공간·표적 유형 면에서 적절히 제한되어 있는지, 피해가 발생했을 때 지휘관·운용자·개발자·제조사 사이의 책임은 어떤 원칙으로 나뉘는지 그리고 그 결과를 추적할 수 없는 무기체계라면 애초에 배치가 허용될 수 있는지 따져 물어야 한다. 이 질문에 답하는 기준 없이 휴머노이드 로봇과 AI 무기의 도입만 앞서 나간다면 우리는 AI를 통제하는 것이 아니라 AI와 로봇이 만들어내는 속도와 효율의 논리에 우리의 전쟁 윤리와 정치적 책임을 종속시키게 될 것이다.

필자 소개

박형빈 교수 (서울교육대학교 윤리교육과)

-미국 UCLA 교육학과(Department of Education) 방문학자

-서울교육대학교 교육전문대학원 에듀테크전공

-AI인문융합전공 교수

-서울교육대학교 신경윤리·가치AI융합교육연구소 소장