지난 1일(현지시각) 이란 정부 핵심 시설이 폭격 당하는 동영상을 이스라엘군이 공개했다. 연합뉴스김보라미 | 법률사무소 디케 변호사미국과 이스라엘은 지난달 28일 24시간 만에 이란 내 1000여개의 표적을 선제 타격했다. 이 전례 없는 타격의 배후에는 인공지능(AI)이 있었다.전쟁에서의 에이아이 활용은, 현재도 진행 중인 이스라엘군의 가자지구 팔레스타인 학살에서 이미 잔혹한 방식으로 드러난바 있다. 이스라엘군은 수만명의 가자지구 주민을 학살하는 데 있어 인간의 감독을 거의 받지 않고 살인을 허용하는 정책으로 에이아이 살상 무기를 실험해왔다. 인물 표적으로는‘라벤더’를, 건물 표적으로는 ‘가스펠’이란 에이아이 시스템을 사용했는데, 이 제품에는 이스라엘 민간기업 코사이트, 미국 기업 팔란티어, 구글 등이 참여한 것으로 드러난 바 있다.에이아이 라벤더는 3만7천명의 팔레스타인인을 살상 표적으로 지정했는데, 이때 오류율은 10%에 달했다. 표적 10명 중 1명은 민간인이라는 점을 인식했음에도, 대규모 학살을 멈추지 않았다.가스펠은 하루 100개의 표적을 자동 생성했다. 이름만 들어도 끔찍한 ‘아빠 어디 있어’ 시스템은 표적이 집에 들어가는 순간을 포착해 야간 폭격을 가하기도 했다.인간의 데이터와 피로 만들어진 에이아이로 인해 전쟁에 대한 기준과 질서 자체가 송두리째 흔들리고 있다. 인류는 2차 세계대전 이후 전쟁범죄에 대한 반성으로 인도주의에 반한 죄, 잔인한 행위와 처벌 금지 등 각종 제도와 규범을 발전시켜왔지만, 21세기 들어 이러한 노력 자체를 뒤흔드는 현실을 목격하고 있다.특정 지역의 문화적 맥락을 읽는 경험, 민간인과 전투원을 구별하는 분석가의 직관, 국제법의 섬세한 비례의 원칙 등 인간적 전문성은거의 사라졌다. 미국·이스라엘-이란 전쟁 첫날 여자초등학교 공습으로 170~180명의 어린이가 희생된 사건도 인간이 충분히 검증하지 않은 채 오래된 데이터를 활용하면서 일어난 에이아이 표적 추천 사고일 가능성이 거론되고 있다. 인간이 스스로 숙고해 결정하지 않고 에이아이의 추천대로 진행했다는 무책임한 상황은 인간의 잔인함과 비인간성을 극대화한다. 에이아이의 도덕적 책임 소재 역시 분명하지 않다.전쟁범죄의 책임에서 과연 에이아이 개발사는 자유로울 수 있을까. 강대국의 전쟁 속에서 속절없이 사라져간 민간인들의 생명에 대해서는 아무도 처벌받지 않고, 아무도 책임지지 않아도 되는 것인가. 이 질문에 국제사회는 지금까지 의미 있는 행동도, 조처도 하지 못하고 있다.인공지능 기업인 앤트로픽의 최고경영자(CEO) 다리오 아모데이가 지난달 26일 자율 무기와 대규모 민간인 감시에 대해 공개적으로 문제 제기를 하자, 미국 국방부는 ‘공급망 위험 기업’으로 지정했다. 앞서 도널드 트럼프 미국 대통령 역시 앤트로픽에 대해 급진좌파 기업이라 규탄하며 전 연방기관에 사용 중단을 지시하기도 했다. 그러나 일개 인공지능 민간기업 하나가 빠진다 한들 줄 서 있는 다른 기업들이 그 자리를 차지한다. 앤트로픽조차도개별 사안 검토를 통해 다시 실전에 투입되고 있다. 기업의 의지가 있다 한들 막대한 이권 사업들 앞에서 이 문제가 해결되기는 어렵다. 인권전문가들의 문제 제기는 공허한 외침으로흩어질 뿐이다.보스턴 대학교 법학 교수 우드로 하트조그와 제시카 실비는 지난해 12월 논문 ‘에이아이가 어떻게 제도를 파괴하는가’(How AI Destroys Institutions)에서 무분별한 에이아이가 민주주의를 지탱하는 법치, 고등교육, 저널리즘, 시민 제도를 어떻게 파괴할 수 있는지 여러 분야의 사례를 들어 설명한 바 있다. 에이아이 시스템의 속성은 협력·투명성·책임성과 정면으로 충돌하고 이에 기반해 인간이 발전시켜온 ‘제도의 붕괴’를 부른다. 에이아이를 이용한 전쟁은 제도 붕괴의 가장 극단적인 모습이다.인류는 2차 세계대전에서 경험한 핵무기를 억제하기 위해 제도를 발전시켜왔다. 하지만 핵무기의 위험에 버금가는 에이아이의 무기화는 예상할 수 없을 정도로 빠르게 진화하는데, 그 위험을 막을 안전조치는 거의 없다. 그 결과는 사람들의 생명을 대규모로 빼앗는 방식으로 나타나고 있다. 가자지구 학살도, 미-이란 전쟁도 에이아이 무기의 실험장이었고, 어디선가 또 실험이 진행되고 있을 것이다. 그것은 반드시 전장이 아닐 수도 있다. 우리 사회 여기저기에서 이미 이루어지고 있다. 그 누구도 동의한 적 없고, 선택한 적 없는 실험이다. 이제라도에이아이에 대해서 핵무기 비확산 조약에 버금가는 국제규범에 대한 합의를 비롯해 국제사회의 결단이 필요하다.
댓글
0