‘인간이 검토’ ‘윤리적 고려’ 등
유엔 규제안 협상 막판에 삭제
미국과 러시아가 인공지능(AI) 자율살상무기를 규제하기 위한 유엔 협상에서 핵심 안전장치를 삭제한 것으로 드러났다. AI가 전장에서 표적 식별에 활용되는 시대가 왔지만, 이를 통제할 국제 규범을 만드는 과정에서 오히려 강대국들이 규제의 고삐를 풀고 있다는 지적이 나온다.
워싱턴포스트(WP)는 26일(현지시간) 협상 내용을 잘 아는 관계자들의 전언과 협상 문서를 토대로 이달 초 스위스 제네바에서 열린 자율살상무기 관련 유엔 회의에서 미국과 러시아가 주요 규제 문구를 삭제했다고 보도했다. 이번 논의는 AI가 표적을 식별하고 공격하는 자율무기를 규율하기 위한 것으로, 향후 법적 구속력이 있는 조약으로 이어질 가능성이 있다.
이 신문에 따르면 협상 마지막 날 미국과 러시아 대표단은 약 15시간 동안 문안을 집중 수정했다. 이 과정에서 AI 무기가 ‘예측할 수 있고 신뢰할 수 있는 방식으로 작동해야 한다’는 조항이 삭제됐다. 무기를 사용할 때 윤리적 고려를 해야 한다는 내용도 빠졌다. AI가 선정한 군사 표적을 실제로 공격하기 전에 인간이 이를 검토해야 한다는 조항도 사라졌다.
협상 막판에는 유엔 측 카메라가 꺼지고 시민사회 참관인들도 퇴장한 가운데 미국과 러시아가 각각 변호사 등 법률 전문가 약 10명을 투입해 문안을 대대적으로 손질한 것으로 알려졌다.
국제 비정부기구 연합체 ‘킬러 로봇을 멈춰라’의 니콜 반 루이옌 사무총장은 미·러가 자율무기 규제 협상에서 너무 큰 영향력을 행사하고 있다고 지적했다.
AI를 이용한 표적 식별 기술은 이미 전쟁에 활용되고 있다. WP에 따르면 미군은 이란과의 전쟁 첫 24시간 동안 앤트로픽의 챗봇을 활용해 약 1000개의 공격 표적을 식별했다. 이스라엘군도 가자지구 군사작전에서 AI를 광범위하게 이용해온 것으로 알려졌다.
AI의 군사적 활용이 확대되면서, 인간이 살상 결정에 대한 최종 통제권을 갖도록 국제적 기준을 마련해야 한다는 요구도 커지고 있다. AI의 판단에 따라 인간의 생사에 관한 결정이 내려질 수 있고, 민간인 피해가 발생했을 때 책임 소재가 불분명해질 수 있기 때문이다.
이런 상황에서 미국은 국내 군사 지침도 손질하고 있다. 도널드 트럼프 대통령은 지난 6월 국가안보 각서를 통해 국방부에 자율·반자율 무기 사용 지침을 90일 안에 개정하도록 지시했다. 백악관은 AI의 신속한 군사적 도입과 활용을 위해 관련 지침을 업데이트해야 한다고 밝혔다.
트럼프 대통령은 지난 22일 유엔 연설에서도 “미국은 현재 많이 거론되는 AI, 이른바 ‘초지능’을 통제하기 위한 세계주의적 계획을 수립하려는 모든 시도를 전적으로 거부한다”고 말했다.
국제 인권단체 휴먼라이츠워치 관계자는 “미국이 군사적·기술적 우위를 유지하려 할 때 법적 구속력이 있는 규칙보다 자발적 지침을 내세우는 전략을 사이버와 우주 등 군비 통제 논의에서도 반복해왔다”며 “자율무기도 예외는 아니다”라고 WP에 말했다.
댓글
0