조환 프로그래머
SF 소설의 거장 아이작 아시모프는 '로봇 3원칙'을 통해 인공지능의 윤리적 한계를 제시했다. “로봇은 인간을 해칠 수 없다"는 아름답고 낭만적인 원칙이었다. 하지만 현실의 인공지능은 전혀 다른 길을 걷고 있다. 오늘날 전장에 투입되는 인공지능에는 그런 원칙은 처음부터 코딩되어 있지 않다. 효율과 임무 달성만이 최우선이기 때문이다.
최근 이스라엘과 미국이 수행한 이란 관련 군사 작전, 그리고 베네수엘라 마두로 정권에 대한 제거 작전에 AI가 활용되었다는 사실이 세상에 알려지면서 큰 충격을 주고 있다. 인공지능이 목표물을 선정하고, 타격 경로를 계산하며, 드론을 유도하는 시대가 이미 도래한 것이다.
한편 인공지능 클로드를 개발한 기업 앤스로픽은 미 국방부와의 협업에서 AI를 자국민 대상 대규모 감시와 인간의 개입 없는 완전 자율 살상 무기에 사용하지 말라는 조건을 제시했다. 그러나 미 국방부는 이를 받아들이지 않았고, 결국 앤스로픽은 '국가 안보에 대한 공급망 위험' 기업으로 지정되었다. 보통 중국 화웨이 같은 적국 기업에만 적용되는 제재가 자국 기업에 내려진 것이다. 아이작 아시모프의 로봇 3원칙 따위, 국익 앞에서는 무참히 무시될 수 있음을 상징하는 사례라 할 수 있겠다.
AI 무기의 핵심적인 문제는 정확도에 있다. AI가 아무리 뛰어나더라도 100퍼센트의 정확도란 원리적으로 불가능하다. 바람의 세기, 습도의 변화, 목표물의 예측 불가능한 이동 등은 타격 직전까지 끊임없이 변한다. 인간에게도 어려운 판단인데, AI 라 하여 어려움에서 자유롭지 않기는 매한가지다. 맥락 정보가 부족한 상황에서는 확률에 의존할 수 밖에 없기 때문이다. 99.9% 의 정확도를 자랑하는 기계라 하더라도, 0.1% 의 확률로 실패할 수 있다.
더욱 심각한 문제는 살상 무기의 가격이 급격히 낮아지고 있다는 점이다. 과거에는 무기가 비쌌으며, 돌이킬 수 없는 파괴력으로 인해 그 비용 자체가 전쟁의 억지력으로 작용했다. 한 발에 수십, 수백억 원짜리 미사일을 현장 지휘관 소수만의 판단으로 발사할 수 없었기 때문이다. 하지만 저렴한 자폭 드론의 대량 등장은 이 전쟁 억지력을 무너뜨렸다. 무기가 싸지고, 파괴력도 적당히 줄어드니 책임감도 함께 가벼워진 것이다.
만약 자폭 드론이 독재자의 은신처가 아니라 바로 옆 학교에 떨어져 아무런 죄 없는 어린이 수백 명이 희생된다면, 과연 누구를 처벌해야 하는가. 알고리즘의 오류를 유발한 개발자인가, 작전을 최종 승인한 군 수뇌부인가, 아니면 군사 운영 명령을 내린 정치 지도자인가, 혹은 자국민을 인간 방패로 쓴 독재자인가.
기존의 전쟁법 체계에서는 명령권자의 전쟁 범죄로 비교적 명확하게 처리할 수 있었지만, AI가 의사결정 과정에 깊이 개입된 상황에서는 책임의 경계가 심각하게 모호해진다. 그리고 이미 이란과 중동 국가들에는 민간인 피해가 속출하고 있으며 그 누구도 이 대량 살상에 대한 책임을 지려 하지 않는다.
이 문제는 국제 질서의 냉혹한 본질과도 직결된다. 국제 외교 무대에서는 영원한 친구도, 영원한 적도 존재하지 않는다. 오로지 국익만이 존재할 뿐이다. 선한 시민들로 구성된 국가라 하더라도 자국의 이익 앞에서는 얼마든지 냉혹해진다. 유럽과 미국이 우크라이나의 안전을 보장하겠다던 부다페스트 각서는 러시아의 압도적 무력 앞에 한낱 종잇조각에 불과했다.
중국과 러시아라는 초강대국에 인접한 우리에게도 섬뜩한 이야기다. 그들의 파괴적인 무력 앞에, 한국전쟁 당시 우리 민주주의를 지키기 위해 피를 흘린 23개 참전국이 우리를 또 도와줄 것인가. 반면, 일본과 중국이 한민족 앞에 영원한 적일 수만도 없다. 그렇기에 스스로 얕보이지 않는 힘을 길러야 하며, 그 힘을 함부로 휘두르지 않는 도덕적 규범이 반드시 필요한 것이다. 그리고 이는 국가의 품격을 완성시킨다.
알고리즘 덩어리인 AI는 오판하지 않는다. 설계자의 의도를 그저 충실히 수행할 뿐이다. 즉 AI의 '오판' 은 사실 인간의 오판이다. 그런데 AI가 점점 더 고도화되면서 그 내부 구조를 온전히 이해하는 인간의 수는 빠르게 줄어들고 있다. AI의 압도적인 효율성 앞에서 인간 사이의 지식 전수 활동은 갈수록 비효율적인 행위로 취급받고 있기 때문이다. 그러나 바로 이 '비효율적인' 교육에 더 많은 시간과 자원을 투자하지 않는다면, 우리는 머지않아 AI를 통제할 능력을 상실하게 된다.
그래서 필자는 역사 속으로 사라진 도제 제도의 부활이 필요하다고 본다. 사람이 사람에게 지식과 가치관을 직접 전수하는 방식 말이다. 특히 철학과 윤리를 교육의 핵심에 놓아야 한다. 근원적 이해와 인문학적 소양 없이 AI를 다루는 일을 막아야 한다. 다행히 AI 연구자들이 끊임없이 통제 불능의 위험을 경고하고 있기에 아직 최악의 상황에는 이르지 않았다. 그럼에도 불구하고 항상 잘 작동하던 AI가 내린 단 한 번의 오판으로 온 인류가 공멸할 수 있다는 사실을 결코 잊어서는 안 된다. 인류의 역사를 새로 써야 할 변곡점에 서 있는 지금, 정말로 정신을 바싹 차려야 할 때다. 조환 프로그래머
조환
댓글
0