23일(현지 시간) 미국 뉴욕시 유엔 본부에서 열린 제81차 유엔 총회 기간 중 인공지능(AI) 관련 회의에서 오픈AI의 샘 올트먼 최고경영자(CEO)가 유엔 안전보장이사회 연사의 발언을 듣고 있다. 로이터연합뉴스
최첨단 인공지능(AI)를 규제해야 한다는 목소리가 커지고 있지만, 기술 패권을 빼앗기지 않으려는 열강들의 반대도 만만치 않다. AI에 대한 규제를 막기 위해 평소 반목하던 국가들이 손을 잡는 모습도 발견된다. 최근에는 살상용 AI 무기 사용을 규제하려는 국제 사회의 움직임에 미국과 러시아가 손을 잡고 반대 의견을 내어 핵심 조항을 삭제한 것으로 알려졌다.
26일(현지 시간) 워싱턴포스트(WP)에 따르면 지난 달 31일부터 이달 4일까지 스위스 제네바 유엔(UN) 사무소에서 열린 자율무기시스템(LAWS) 관련 정부 전문가 회의가 극심한 갈등과 공격적인 분위기 속에서 파행했다. 이 회의는 살상용 AI 무기 통제를 다루는 세계 최초의 협정을 만들기 위한 자리였다. 관계자들은 협상 마지막날 UN 중계 카메라가 꺼지고 시민사회 참관단이 퇴장한 후 진행된 약 15시간의 비공개 회의에서 미국과 러시아 대표단이 각종 안전장치 조항을 잇따라 삭제했다고 전했다. 미국과 러시아는 다른 국가 대표단의 두 배에 달하는 각 10여 명의 변호인단을 동원해 속전속결로 문구를 수정했다고 관계자들은 WP에 밝혔다.
이렇게 삭제된 문구는 △AI 무기 시스템은 예측 가능하고 신뢰할 수 있는 방식으로 작동해야 한다 △AI 무기 운용 시 윤리적 기준을 고려해야 한다 △공격을 감행하기 전 AI가 설정한 군사 타격 목표를 인간이 사전 검토해야 한다 등이다. 특히 마지막 조항은 이번 협정의 핵심 조항으로 꼽힌다. 협상에 참여한 한 인사는 미국과 러시아의 행동이 전체 조약을 사실상 무력화했다고 평했다. 소식통들은 “미국과 러시아가 AI 규제 조약의 가장 큰 걸림돌”이라고 입을 모았다.
WP는 “이번 협정 무력화 과정은 미 국방부가 새로운 AI 기술을 전장 전략에 신속하게 도입하려는 움직임 속에서, 미국과 러시아가 자국의 군사적 이점을 지키기 위해 글로벌 AI 무기 규범을 어떻게 약화시켜 왔는지 적나라하게 보여준다”고 평가했다.
미국, 자국 내 AI 무기 규제도 완화 조짐
21일(현지 시간) 러시아 자포리자 전선의 드론 조립 및 정비 시설. 타스연합뉴스
전세계 전쟁터에서 AI는 이미 이론을 넘어 실제 실전에 적용되고 있다. WP에 따르면 미군은 이란과의 전쟁 개전 첫 24시간 동안 약 1000개의 타격 목표 식별에 앤트로픽의 AI를 활용했다. 이스라엘 역시 가자 지구 내 군사 작전에서 AI에 크게 의존해 왔다. 예멘과 이란 등도 무기 제조 및 미군 타격을 위해 AI 활용을 시도한 것으로 알려지며 기술 통제 불능에 대한 공포는 커지고 있다.
하지만 미국은 자국 내 AI 무기 규제까지 완화하려 하고 있다. 미국은 조 바이든 행정부 시절인 2023년 ‘자율무기 사용 지침’을 제정한 바 있다. 이 지침에는 자율 및 반자율 무기 시스템을 통제하기 위해 인간이 최종 판단을 하도록 하는 등 이번에 UN 협상안에서 삭제된 것과 유사한 안전 장치들이 포함돼 있었다. 또한 AI 무기 운용 주체가 국제 전쟁법과 관련 조약을 준수하도록 의무화한 조항도 있었다. 하지만 지난 6월 도널드 트럼프 미국 대통령의 명령에 따라 국방부가 해당 지침을 개정 중이다. 아직 개정안이 공개되지는 않았으나 현재 트럼프 대통령의 기조대로라면 지침이 약화될 가능성이 높다. 트럼프 대통령은 지난 22일 UN에서 “미국은 현재 활발히 논의되는 AI를 통제하려는 그 어떤 세계주의적 책략도 단호히 거부한다”고 선언했다.
트럼프 행정부가 자체 AI 무기 규정을 손보겠다고 나선 것 자체도 ‘꼼수’라는 시각이다. 인권단체 휴먼라이츠워치의 베리티 코일 무기 부문 부국장은 “미국은 군사적·기술적 우위를 지키고자 할 때 구속력 있는 규칙 대신 늘 자발적 가이드라인을 밀어붙인다”며 “사이버, 우주, 여타 군비 통제 논쟁에서 보았던 것과 똑같은 수법이며, 이번 자율무기 협상도 예외는 아니다”라고 꼬집었다.
국제적십자위원회(ICRC) 법률팀의 군축 고문 리처드 레네인은 과거 화학·생물 무기, 대인 지뢰, 집속탄 통제 협정이 무기 사용을 억제한 사례를 들며 글로벌 조약의 중요성을 강조했다. 레네인 고문은 “조약은 단지 처벌을 위한 것이 아니라 국제 규범을 확립하고 행동을 변화시키는 도구”라며 “자율무기를 규제하는 조약 역시 동일하게 강력한 효과를 발휘할 것”이라고 밝혔다.
한편 각국 대표단은 오는 11월 다시 제네바에 모여 해당 협상을 공식적 권한을 가진 협상으로 격상할지, 나아가 구속력 있는 조약으로 추진할지 여부를 논의할 예정이다.
댓글
0