- 이스라엘의 AI 전쟁 기계, 사람 표적(Human Target)의 ‘라벤더’(Lavender)
- AI 전쟁 기계, 사람이나 군사적 구조물 표적의 가스펠(Gospel)
- 생명을 도외시한 이스라엘군의 결정
- 기술 군사주의, 기술 공화국을 선호하는 사람들
- 이스라엘의 끝없는 전쟁과 제노사이드
- 인공지능의 군사화, 혹은 기술 낙관주의의 폭주
- 중국의 기술 패권을 용납할 수 없는 기술 군사주의자들
- 기술 전쟁은 가성비 좋고, 인간을 보호해 줄까?
- 과거 : “신뢰하되 검증하라” vs 지금 : “불신하고 검증하라”
- 군사 기술 로비: 극강의 혁신가들
- 기술 군사주의자들은 인간의 얼굴을 가질 수 있을까?
”국제 사회는 기술이 작동하는 규칙“을 만들어야 한다. 그렇지 않으면 도덕적 판단력이 소수 극강의 기술 혁신가들에 의해 통제될 수 있다. 그들에게 맡겨진 세계는 민주주의는 사라지고, 전체주의를 연상시키는 ‘기술 공화국’ 즉, ‘기술 권력’이 될 수 있다. 다양성의 역사는 그런 도박을 감행할 여유가 없다는 것을 보여주고 있다./ 이미지=인공지능(AI) 활용
미국 실리콘 밸리의 새로운 기술 군사주의
(military-tech sector)
와
AI
기반 전쟁 기술의 개발
,
그리고 이로 인해 발생할 수 있는 윤리적
,
정치적 문제에 대한 다양한 의견들이 개진되고 있다
.
특히
,
팔란티어
(Palantir)
의
CEO
알렉스 카프
(Alex Karp)
와 같은 기술 리더들이 군사 기술의 무분별한 사용을 정당화하며
,
민주주의와 국제법을 약화시키고 있다는 점이 비판받고 있다
.
나아가 이러한 기술이 전쟁을 더 효율적으로 만들 수는 있지만
,
전쟁의 빈도를 증가시킬 위험이 있다고 경고한다
.
알렉스 카프는 군사 기술 혁신에 의한 군사적 강압과 잔혹함을 정당화하며
,
그의 회사는 가자 지구와 같은 분쟁 지역에서 민간인을 포함한 많은 사람들을 죽이는 데 기여했다
.
카프는 자신의 소프트웨어가 미국 수정 헌법 제
4
조를 준수한다고 주장했지만
,
이민세관단속국
(ICE)
과의 계약을 유지하며 평화적 반대 의견 탄압에 이용될 수 있는 기술을 제공했다
.
팔란티어와 같은 회사들은
AI
를 활용한 군사 기술 개발로 미국의 글로벌 우위를 유지하려는
“
신 맨해튼 프로젝트
”
를 주장하며
,
이를 통해 중국을 견제하려 한다고 주장한다
.
실리콘 밸리의 새로운 군사 기술 기업들은 전통적인 군산복합체
(MIC)
와 달리
,
더 개방적으로 군사주의를 옹호하며
,
전쟁을 필연적이고 바람직한 것으로 묘사한다
.
그래야 자신들의 기술이 빛을 발할 수 있는데다
.
엄청난 돈을 쓸어 담을 수 있기 때문일 것이다
.
기술 기반의 전쟁 시스템은 더 저렴하고 효과적일 수 있지만
,
이는 전쟁의 빈도를 증가시키고
,
민주적 통제를 약화시키며
,
윤리적 문제를 야기할 위험이 상당히 있다
.
실리콘 밸리의 군사 기술 로비는 전통적인 군산복합체를 대체하려 하며
,
더 빠르고 저렴한 전쟁 시스템을 주장하지만
,
그들의 주장에는 여전히 검증이 필요하다
.
이른바
AI
군산복합체
(AI MIC)
는 기존의
MIC
와는 알고리즘이 다르고 복잡하다
.
AI
기반 군사 기술은 약한 공적
(
公的
)
감독과 논의 부족 속에서 빠르게 개발되고 있으며
,
이는 민주주의와 국제 안정성을 위협할 수 있는 요소를 충분히 내포하고 있다
.
*
이스라엘의
AI
전쟁 기계
,
사람 표적
(Human Target)
의
‘
라벤더
’(Lavender)
실례로 이스라엘의 팔레스타인 자치구 가자 지구 폭격에 설익은 인공지능
(AI) ‘
라벤더
’(Lavender)
가 이용됐다
.
이스라엘군은 인간의 감독을 거의 받지 않으며 사상자 발생에 무감각한 인공지능
(AI)
표적 지시 체계로 수만 명의 가자 지구 주민들을 표적으로 삼았고
, 7
만 명 이상의 가자 지구 주민들이 무고하게 살해당했다
.
이스라엘의 라벤더 시스템은 가자 지구의 하마스
(Hamas :
이슬람 무장 정파
)
와 팔레스타인 이슬라믹 지하드
(PIJ :
이슬람 전사들
)
의 전투부서 소속으로 의심되는 하위 요원을 포함한 모든 구성원을 잠재적인 공격 대상으로 지정하도록 알고리즘이 짜졌다
.
이스라엘군이 전쟁 초기에 몇 주 동안 거의 전적으로 라벤더에 의존했고
,
라벤더는 최대
3
만
7
천 명에 달하는 팔레스타인인을 무장세력 가담자
(
하마스 요원
)
로 분류했고
,
그들의 집을 공습 대상으로 지목했다는 보도이다
.
이스라엘군은
‘
라벤더
’
의
‘
사살 표적 목록
’
그대로를 승인했으며
,
이 결정이 내려진 이후 장교들은 인공지능 체계가 왜 그런 결정을 내렸는지 철저하게 확인할 필요조차 없었고
,
역시 판단의 근거가 된
1
차 정보 데이터를 확인할 필요가 없었다
.
따라서 이스라엘 장교는
AI
체계가 내린 결정에
‘
무조건 따라야만 하는 일종의 거수기
’
역할만 할 수밖에 없는 즉
,
인간의 판단이
AI
기계인 라벤더를 통제할 필요성이 없어
,
결과적으로는 무고한 수많은 민간인 살해를 초래하게 됐다
.
그 장교는 폭격을 승인하기 전에
‘
라벤더
’
가 지시한 표적당
20
초가량의 시간을 할애해 표적이 남성인지 아닌지만을 확인하고 바로 공격을 가해 희생들이 급증할 수밖에 없는 부분적 핵무기 역할을 한 모양새라는 것이다
.
이는 라벤더 시스템이 평균적으로
10%
가량
'
오류
'
를 범했으며
,
무장단체와 느슨한 연관관계에 있거나
,
전혀 연관이 없는 인물을 지목하는 경우가 발생하곤 했다
.
* AI
전쟁 기계
,
사람이나 군사적 구조물 표적의 가스펠
(Gospel)
‘+972
와 로컬콜
’
의 탐사보도와 이스라엘군의 발표를 통해 공개된 데이터에 따르면
,
라벤더 체계는
2023
년
11
월
,
또 다른
AI
시스템인
‘
가스펠
’(Gospel)
과 함께 사용된다
.
라벤더와 가스펠 시스템의 근본적인 차이는 표적의 정의에 있다
.
가스펠은 이스라엘군에서 팔레스타인 무장단체가 활동한다고 주장하는
‘
건물이나 다른 군사 구조물
’
을 표적으로 탐지하도록 개발된 반면
,
라벤더는
‘
사람을 표적
’
으로 규정하고 이들을 표적 명단에 올린다는 차이이다
.
*
생명을 도외시한 이스라엘군의 결정
이스라엘군은 전쟁 초기 몇 주 동안 라벤더가 지목한 하위 하마스 요원 한 명당 최대
15
명
,
혹은
20
명의 민간인 사망자를 허용하는 전례 없는 결정을 내렸다고 한다
.
이전에는 하위 요원을 공격하는 경우에 부수적 피해 자체를 허용하지 않았다
.
그만큼 초기에는 생명을 중시하려 했던 것으로 보이지만
.
실제로
AI
전쟁 기계 사용에서는 생명 살해를 광범위하게 허용했다는 점이다
.
공격 대상이 적어도 대대장이나 여단장급 이상인 하마스 고위 간부일 경우 한 명당
100
명 이상의 부수적 피해를 몇 차례 허용했다는 것이다
. ‘
계급에 따른 생명 차별
’
을 둔 이스라엘 군의 결정이다
.
*
기술 군사주의
,
기술 공화국을 선호하는 사람들
신흥 군사 기술 기업 팔란티어의
CEO
알렉스 카프는
“
드론을 도입해서 우리를 속이려 했던 분석가들에게 펜타닐이 섞인 소변을 뿌리는 아이디어가 마음에 든다
”
고 비아냥거렸다
.
그의 발언은 단순한
‘
즉흥적 발언
’
이 아니라
,
실리콘 밸리의 군사 기술 분야에
‘
만연한 사고방식
’
을 반영한다
.
이 사고방식은
‘
강압을 혁신
’
으로
, ‘
잔혹함을 솔직함
’
으로
,
그리고 기술력의 무분별한 사용을 불가피하고 바람직한 것으로 여긴다
. ‘
기계
,
기술 만능주의
’
사고방식이다
.
카프는 첨단 무기를 제조하는 회사를 운영하는 것만큼이나 언쟁을 즐긴다
.
그의 회사 팔란티어는 이스라엘이 가자 지구에서 팔레스타인 주민들을 폭격하고 학살하는 속도를 높이는 데 일조했으며
,
이민세관단속국
(ICE)
이 추방 절차를 가속화하고 미니애폴리스 시위대의 위치를
파악하고 신원을 확인하는 데에도 기술을 제공했다
.
카프는 자사 제품으로 인한 피해에 대해 조금도 사과하지 않을뿐더러
,
오히려 공개적으로 즐기는 인물이라고 재닛 아부
-
엘리아스와 윌리엄
D.
하퉁은 강조한다
.
재닛 아부
-
엘리아스
(Janet Abou-Elias)
는 퀸시 책임국가연구소의 외교정책 민주화 프로젝트 연구원이자 여성 무기 거래 투명성 단체의 설립자이며
,
윌리엄
D.
하퉁
(William D. Hartung)
은 동
(
同
)
연구소의 선임 연구원이자 벤 프리먼
(Ben Freeman)
과 함께 쓴 저서
“1
조 달러 전쟁 기계
:
폭주하는 군사비 지출이 어떻게 미국을 해외 전쟁으로 몰아넣고 국내 재정을 파산시키는가
( The Trillion Dollar War Machine: How Runaway Military Spending Drives America into Foreign Wars and Bankrupts Us at Home)
의 저자이다
.
지난
2
월 알렉스 카프는
CNBC
와의 인터뷰에서
”
만약 당신이
ICE
를 비판한다면
,
팔란티어의 더 많은 지원을 요구하는 시위에 나서야 한다
.
우리 제품은 본질적으로 수정 헌법 제
4
조의 데이터 보호 조항을 준수하도록 요구한다
“
고 말했다
.
미국 수정 헌법 제
4
조는
”
시민을 불합리한 수색 및 압수로부터 보호하는 조항이다
.
그러나 카프는 이러한 주장에도 불구하고
ICE
가 평화로운 반대 의견에 대한 탄압에 자신의 소프트웨어를 사용하는 것을 중단해달라고 요청하지 않았으며
, ICE
의 상위 기관인 국토안보부
(DHS)
와 체결한
10
억 달러
(
약
1
조
4,990
억 원
)
규모의 무기한 계약을 수용하는 데에도 아무런 변화를 주지 않았다
.
국내외 탄압에 대한 그의 전폭적인 지지에 발맞춰
,
가자 전쟁이 한창이던 시기에 카프는
“
텔아비브에서 팔란티어 이사회 회의를 열고
,
이 지역에서 우리의 사업은 그 어느 때보다 중요하며
,
앞으로도 계속될 것
”
이라고 선언까지 했다
.
무차별 인명 살상을 해 나가겠다는 기술만능주의자이다
.
알레스 카프는 뉴욕타임스
(NYT)
의 모린 다우드
(Maureen Dowd)
와의 인터뷰에서 자신의 철학을 이렇게 요약했다
. “
사실 나는 진보주의자이다
.
나는 전쟁이 줄어들기를 바란다
.
전쟁을 멈추는 유일한 방법은 최고의 기술을 보유하고 적들을 완전히 겁주는 것이다
.
적들이 두려워하지 않는다면
,
아침에 눈을 뜨는 것도
,
잠자리에 드는 것도 두려워하지 않고
,
미국의 분노가 자신들에게 쏟아질 것을 두려워하지 않을 것이다
.
그러면 그들은 우리를 공격할 것이다
.
그들은 도처에서 우리를 공격할 것
”
이라고 강조했다
.
카프의 세계관을 엿볼 수 있는 인터뷰 내용이다
.
그러나 현실은 카프가 말한 대로 되지 않는 그처럼 간단하지 않다
.
팔란티어의 기술은 가자 지구와 그 너머에서 수만 명의 사람들을 죽이는 데 사용되었으며
,
그중에는 하마스와 아무런 관련이 없고
,
하마스의 행동을 통제할 수도 없었으며
,
무고하게 살해당한 사람들은 심지어
2006
년 하마스가 지방 선거에서 승리하고 가자 지구를 통치하기 시작했을 당시에는 태어나지도 않았던 사람들도 많다
.
살해당한 자들의 원한이 도처에 도사리고 있을 것이다
.
*
이스라엘의 끝없는 전쟁과 제노사이드
2023
년
10
월
7
일 하마스의 이스라엘 공격이 비양심적인 행위였다는 점에는 의심의 여지가 없다
.
그러나 이스라엘이 이에 대한 대응으로 가자 지구에서
7
만 명이 넘는 팔레스타인인을 살해한 것은 대부분의 독립적인 전문가들이 집단학살
(Genocide)
로 규정하는 극도로 과도한 대응이다
.
이스라엘 정부조차도 이제는 인정하는 비교적 보수적인 수치가 바로
7
만 명 대량 학살이다
.
이러한 대량 학살을
“
악당들을 겁주고 폭력을 줄이는 방법으로 정당화하려는 생각
”
은 지적으로 용납될 수 없으며 도덕적으로도 혐오스럽다
.
자신의 범죄와 투옥되는 일을 피하려 베냐민 네타냐후 이스라엘 총리는 자신의 무한대 권력 유지를 위하고
,
미국의 무기를 동원해 전쟁을 치르려는 그의 간계
(
奸計
)
는 계속되고 있다
.
네타냐후의 그런 야욕에 적합한 신기술이 바로
AI
전쟁 기계이며
,
카프는 매우 효과적인
AI
기술을 제공한 것이다
.
카프는 전쟁 현장인 이스라엘에서 마치 파티를 즐기는냥 회의를 개최하는 몰염치한 행각을 했다
.
*
인공지능의 군사화
,
혹은 기술 낙관주의의 폭주
AI
전쟁 기계는 구세대의 군산복합체
(MIC)
가 아니다
.
록히드 마틴
, RTX(
옛 레이시온
),
보잉
,
제너럴 다이내믹스
,
노스럽 그루먼 같은 거대 산업 기업을 이끄는 현재의
‘
군산복합체
’
경영진들은 알렉스 카프보다 훨씬 신중한 태도를 보인다
.
이들 기업의 지도자들은 중동이나 아시아의 긴장 고조가 해당 지역의 미국 동맹국들 사이에서 자사 제품에 대한 수요를 창출할 수 있다는 언급을 간혹 할 수는 있지만
,
카프가 전문적으로 사용하는 듯한 노골적인 오웰식 수사
(Orwellian rhetoric)
를 결코 사용하지는 않는다
.
미래의 군산복합체
(MIC)
는 기술이나 사업 방식의 변화뿐 아니라
,
알렉스 카프가 지적했듯이 세계 안정 증진이나
"
규칙 기반 국제 질서
"
수호와 같은 명분 없이도 군사주의가 공공연하게 찬양받는 문화적 변혁을 예고한다
.
새로운
AI
군산복합체는 철학자 토마스 홉스
(Thomas Hobbes)
의
“
만인의 만인에 대한 전쟁
”(war of all against all)
을 첨단 기술을 이용해 구현한
,
거칠고 개인주의적인 집단이라고 볼 수 있다
.
공공성
(being public)
은 찾기 힘들다
.
이 집단을 이끄는 자들은 미래 전쟁에서
‘
승리
’
하는 유일한 방법은 알렉스 카프
,
팔란티어 창립자 피터 틸
(Peter Thiel),
안두릴
(Anduril) CEO
팔머 럭키
(Palmer Luckey),
그리고 독보적인 일론 머스크
(Elon Musk)
와 같은 자칭 우월한 존재들에게 정치의 열쇠를 넘겨주는 것이라고 주장한다
.
*
중국의 기술 패권을 용납할 수 없는 기술 군사주의자들
알렉스 카프는
“
기술 공화국
:
강대국
,
온건한 신념
,
그리고 서구의 미래
”(The Technological Republic: Hard Power, Soft Belief, and the Future of the West)
라는 책을 공동 집필했다
.
카프는 그 책에서 미국이 다시 세계 패권을 장악하기 위해 필요한 것이 무엇인지에 대한 자신의 비전을 제시한다
.
이 책은 미국인 대부분이 목적의식과 애국심을 잃고 리얼리티
TV
나 비디오 게임 같은 시시한 일에 시간을 낭비하는 현실을 한탄하는 내용이다
.
카프와 공동 저자인 니콜라스
W.
자미스카
(Nicholas W. Zamiska)
는
“
이러한 나태한 미국인들을 바로잡고
,
미국을 세계 최강의 정치
·
군사 강대국으로 되돌리기 위한 새로운 국가적 사명이 필요하다
”
고 주장한다
. “
치고 올라오는 중국을 두 눈 뜨고 볼 수는 없다
”
는 그의 인식으로 보인다
.
카프가 제시한 해결책은 바로
‘
새로운 맨해튼 프로젝트
’(
제
2
차 세계대전을 종식시킨 원자폭탄을 개발한 프로젝트
)
이다
.
이번에는 핵무기 개발이 아니라 인공지능
(AI)
의 군사적 활용을 가속화하고 미국이 중국에 대해 영구적인 기술적 우위를 확보하는 데 초점을 맞춰야 한다는 것이다
.
이보다 더 빈약하고 잘못된 미국의 미래 비전
,
또는 기본적인 인간성이 결여된 미래를 상상하기는 어려울 것이라는 인식이다
.
재닛 아부
-
엘리아스와 윌리엄
D.
하퉁은
“
강경파
,
전통적 현실주의자
,
그리고 기술 군사주의자들은 당연히 외교 및 국내 정책에서 인류 우선주의를 내세우는 접근 방식을 순진하다고 비웃겠지만
,
실제로 진정으로 순진한 사람들은 신세대 군국주의자들이다
.
수조 달러를 낭비하고 수십만 명의 목숨을 앗아간 이번 세기의 전쟁들
,
즉
(
최근 이란전쟁처럼
)
애초에 내세웠던 목표를 달성하는 데는 한참 실패하고 세상을 훨씬 더 위험한 곳으로 만든 전쟁들에 대해 그들은 여전히
‘
힘을 통한 평화
’
와
‘
규칙 기반 국제 질서
’
를 뒷받침하기 위한 미국의 군사력 사용에 대한 뻔한 말을 되풀이하고 있다
”
고 강하게 비판했다
.
재닛 아부
-
엘리아스와 윌리엄
D.
하퉁은
“
이라크와 아프가니스탄에서 훨씬 더 자금력이 부족하고 기술적으로도 뒤떨어진 적들에게 미국이 입은 손실을 생각하면
,
이러한 진부한 수사는 잔인한 농담처럼 들리거나
,
쇠퇴하는 제국의 대표자들이 내뱉는 탄식처럼 들리기 시작한다
”
고 안타까워 했다
.
*
기술 전쟁은 가성비 좋고
,
인간을 보호해 줄까
?
재닛 아부
-
엘리아스와 윌리엄
D.
하퉁은
“
신흥 기술 기업들이 정말로 더 적은 비용으로 더 나은 전쟁 시스템을 만들어낼 수 있는지에 대한 더 좁은 질문을 던졌다
.”
팔란티어 창립자 피터 틸의 제자인 안두릴의 팔머 럭키는 최근
CNBC
와의 인터뷰에서
“
미국이 현재
1
조 달러에 달하는 국방 예산의 절반만 쓰더라도
‘
잘못된 것들
’
에 대한 구매를 중단한다면 훨씬 더 효과적인 방어 시스템을 구축할 수 있을 것
”
이라고 말해 화제가 됐다
.
군수업체가 더 적은 비용으로 더 많은 것을 제공하겠다고 제안한다는 발상은 군수산업계에 만연한 탐욕과 부패가 여전히 심각한 시대에 거의 혁명적인 발상처럼 보인다
.
안두릴의 팔머 럭키가
CNBC
에 한 발언의 바탕이 된 철학은
“
민주주의의 무기고 재건
”(Rebooting the Arsenal of Democracy)
이라는 제목의 주목할 만한 안두릴 문서에 잘 나타나 있는데
,
이 문서는 미 국방부와 록히드 마틴 같은 거대 군수업체들의 현행 사업 관행을 신랄하게 비판하고 있다
.
팔머 럭키의 선언문은 록히드 마틴과
RTX(
옛 레이시온
)
를 필두로 국방부 계약 예산의
3
분의
1
을 차지하는
‘5
대 방산기업
’
에 대한 강력한 비판으로 해석된다
.
이 글은 거대 기업들이 지난 세기 냉전 시대에 필수적이고 유용한 일을 하며 전성기를 누렸다는 주장이다
. “
기존 방산기업들이 왜 더 나은 일을 하지 못하는가
?"
라고 묻는다
. ”......
이 기업들은 느리게 움직이는 반면
,
최고의 엔지니어들은 빠른 속도로 일하는 것을 즐긴다
...
이 기업들은 과거에 우리를 안전하게 지켜준 도구들을 만들었지만
,
미래의 국방을 책임질 기업은 아니다
.“
라고 규정짓는다
.
팔머 럭키의 문서는
”
록히드 마틴 같은 회사들에게 평생 공로상을 수여한 다음
,
틸
,
카프
,
럭키
,
머스크 같은 사람들이 무기 산업을 이끌도록 자리를 내줘야 한다
“
는 것을 은근히 시사하고 있다
.
문제는 다른 시급한 국가적 우선순위를 고려할 때 무기 지출을 줄이는 것이 유용하긴 하지만
,
그것이 국방 정책의 유일한 목표가 될 수는 없다는 것이다
.
가장 중요한 질문은 인공지능 기반 시스템이 더 저렴하고
,
더 민첩하며
,
더 정확하다고 알려져 있는데
,
이러한 시스템들이 실제로 전쟁을 더욱 부추기는 것이 아니라 평화와 안정을 증진하는 방식으로 배치될 수 있느냐는 것이다
.
현실적으로
,
미국이 이러한 시스템을 사용하여 사상자를 줄이면서 일상적으로 군사 개입을 할 수 있다고 생각한다면
,
오히려 전쟁을 일으키고 싶은 유혹이 커질 위험이 있다는 반론도 유의미하다
.
일단 미국 무기 개발 및 생산을 장악하고 있는 대형 계약업체들의 영향력을 깨뜨리는 아이디어는 매력적이지만
,
기술 업계가 더 적은 비용으로 더 나은 결과를 낼 수 있다는 주장은 아직 입증된 것이 없다
.
드론이
F-35
전투기보다 저렴한 것은 분명하지만
,
전쟁 중에 대규모로 투입되고 신속하게 보충되는 드론 편대나
,
복잡하고 검증되지 않은 소프트웨어로 작동하며 결정적인 순간에 오작동할 가능성이 있는 무인 함선과 장갑차는 어떻게 될까
?
그리고 기술 업계와 그들의 로비스트들이 바라는 대로
,
독립적인 시험이나 가격 폭리 방지 같은 안전장치가 약화되고
,
신세대 군사주의자들이 거의 또는 전혀 감시 없이 활동할 수 있게 된다면 어떻게 될까
?
이러한 안전장치들은 이미 너무 미약해서 제대로 된 역할을 수행하기 어렵다는 게 일반적인 진단이다
. ‘
구세대 군사주의자들
’
은
‘AI
로 무장한 신세대 군사주의자
’
로의 전환일뿐 인류 살상의 문제에서 보면
, AI
전쟁 기계가 훨씬 더 위험하고 인류 파멸을 초래하는 길을 넓힐 수 있다는 주장도 설득력을 가지고 있다
.
*
과거
: “
신뢰하되 검증하라
” vs
지금
: “
불신하고 검증하라
”
20
세기 로널드 레이건 미국 대통령이 소련 지도자 미하일 고르바초프와 군비 통제 협정을 협상할 당시 그의 좌우명은
“
신뢰하되 검증하라
”(trust but verify)
였다
.
팔란티어와 같은 기업들의 경우에는
"
불신하고 검증하라
"(mistrust and verify)
가 좌우명이 되어야 할지도 모른다
.
그들의 그럴듯한
‘
마케팅 슬로건
’(marketing slogans)
에 현혹되어서는 안 된다
.
그들의 신기술이 광고대로 작동하는지
,
그리고 기존 기술보다 실제로 더 나은지 증명하도록 줄기차게 요구해야 한다
.
팔란티어와 안두릴은 단순히 서비스를 제공하는 업체로 취급되어 그에 대한 대가를 받는 것은 문제될 게 없다
.
하지만
,
군사 예산이나 외교 정책
,
더 나아가 이미
‘
민주주의의 근간
’
을 흔들려는 권한은 결코 인정받아서는 안 된다
.
*
군사 기술 로비
:
극강의 혁신가들
이제 실리콘 밸리는 치밀하게 계획된 선거 자금 기부부터 전직 정부 관료들을 고용해 자신들의 뜻대로 움직이게 하는 것까지
, ‘
합법화된 부패
’(legalized corruption)
에 완전히 뛰어들었다
.
가장 대표적인 인물이 바로
JD
밴스 부통령이다
.
그는 상원의원과 부통령에 오르는 과정에서 팔란티어 창립자 피터 틸의 고용
,
멘토링
,
그리고 자금 지원을 받았다
. 2024
년 도널드 트럼프의 부통령 후보로 지명되자
,
일론 머스크를 비롯한 군사 기술 업계에서 수백억 달러를 포함한 막대한 자금이 선거 캠페인으로 쏟아져 들어왔다
.
부통령 후보로 지명된 후
,
밴스의 주요 임무 중 하나는 실리콘 밸리의 군국주의자들로부터 더 많은 기부금을 끌어내는 것이었다
.
대통령 후보자의 입장에 선 도널드 트럼프는
‘
멋진 신세계
’
의 즐거움을 맛보았을 수 있다
.
그 후 머스크가 이끄는 정부 효율성부
(DOGE)
가 등장했다
.
머스크가 지원한 선거 자금은 약
2800
억 원으로 알려져 있다
.
이 조직은 연방 프로그램과 인력을 무작위로 삭감하고
,
국제개발처
(USAID)
와 같은 필수적인 기관들을 무력화시키면서 미 국방부는 거의 손대지 않은 채 효율성이라는 이름에 먹칠을 했다
.
특히 그동안
USAID
에도 문제점이 있었지만
,
전 세계 수백만 명의 삶을 지탱하는 필수적인 개발 및 공중 보건 사업에 자금을 지원해 왔습니다
.
진정한 효율성 증진을 위해서는
USAID
에서 무엇이 효과가 있었고 무엇이 효과가 없었는지 살펴봐야 했으나
,
기술 군사주의들은 극강의 혁신만을 내세우며
,
효율만 강조했다
.
그들은 경제 원조에 대해 아무것도 몰랐던 머스크의 추종자들은 그저
USAID
를 해체해 버렸다
.
역시 공공성
(being public)
의식은 쓰레기통에나 있을 법한 사례이다
.
현재 실리콘 밸리 출신 임원들이 트럼프 행정부의 주요 직책을 상당수 맡고 있는데
, JD
밴스를 비롯해 군
,
국방부 고위 지도부
,
그리고 다양한 국내외 정책 기관의 핵심 직책에 수십 명이 포진해 있다
.
*
기술 군사주의자들은 인간의 얼굴을 가질 수 있을까
?
재닛 아부
-
엘리아스와 윌리엄
D.
하퉁은
“
새로운 기술 군사주의자들의 문제는
‘
기술의 힘에 대한 오해
’
에서 비롯된 것이 아니라
,
누가 어떤 목적을 위해 어떤 제약 조건 하에서 그 힘을 행사해야 하는지에 대한 위험한 오판에 있다
”
고 지적했다
.
제약 없는 권력은 혁신이 아니다
(Power without restraint is not innovation).
그것은 필연성으로 위장한 무모함일 뿐이다
.
미국의 외교 및 국내 안보 정책을 좌우하는 도구들의 상당 부분이 소수의 민간 기업에 의해 설계
,
배치
,
홍보되고 있는데
,
이들의 동기는 오로지 재정적 이익에 기반하고 있으며
,
세계관은 극도로 군사화되어 있고
,
대중에 대한 책임은 최소한에 그치고 있다는 지적을 받고 있다
.
재닛 아부
-
엘리아스와 윌리엄
D.
하퉁은
“
국가에 필요한 것은 전쟁은 불가피하고
,
공포만이 평화로 가는 유일한 길이며
,
민주주의는 알고리즘을 코딩하고 무기를 만드는 자들의 우월한 지혜에 무릎을 꿇어야 한다고 말하는 억만장자 엔지니어들의 새로운 사제단이 아니다
.”
라고 강조했다
.
냉전 시대 핵 전략가들
,
베트남 전쟁 당시 사상자 수 계산에 열광했던 자들
,
그리고 이라크를 파멸로 이끈 충격과 공포 작전의 설계자들에게서 진정한 인간의 얼굴을 찾는 것은 어려운 일일까
?
오늘날 특히 위험한 점은 이러한 첨단 시스템들이 개발되고 배치되는 속도와
‘
불투명성
’
이다
. AI
기반 표적 설정 도구
,
예측 감시 플랫폼
,
자율 무기
,
데이터 융합 시스템 등이 최소한의 공론화
,
허술한 감독
,
그리고 그 결과로 고통받고 죽어갈 사람들의 실질적인 동의 없이 군대와 국내 치안 체계에 통합되고 있다
. ‘AI
주도 혁신
’
이라는 수사는 민주적 절차를 완전히 무시하는 편리한 구실이 되어가고 있다는 지적이 많다
.
기술 군사주의자들의 근본적인 전제는 영구적인 전쟁이 인간 세계의 자연스러운 상태이며
,
인간이 선택할 수 있는 유일한 길은 전쟁을 얼마나 효율적으로 수행할 것인가라는 것이다
.
하지만 현실적으로 안보는 결코 전 세계를 공포에 떨게 하여 굴복시키는 것으로 얻어지는 것이 아니다
.
안보는 외교
,
자제
,
국제법 준수
,
경제적 정의 실현
,
그리고 대규모 폭력 발생 가능성을 자동화하는 것이 아니라 낮추는 제도를 구축하는 느리고도 칙칙한 노력을 통해 얻어진다는 역사의 교훈이 아직 선명하게 보인다
.
“
지배를 힘으로
,
혁신을 지혜로 착각하는 것은 허무주의적이고 나약한 것이라 할 수 있다
.
오직 자신만이 누구의 생명을 희생시킬지 결정할 자격이 있다고 믿는 인간들이 주도하는 끝없는 군비 경쟁은 양심이 보이는 인간의 얼굴을 가질 수 없다
.
그런 얼굴이 있는 것처럼 보이는 것은 위선이다
.
이 새로운
AI
전쟁 기계가 만들어낸 올더스 헉슬리
(Aldous Huxley)
의
”
멋진 신세계
“
는 이름과 달리 유토피아적 미래를 묘사하는 것으로 이해되지만
,
실제로는 통제와 쾌락주의가 결합된 디스토피아적 경고를 뜻한다
.
따라서
”
국제 사회는 기술이 작동하는 규칙
“
을 만들어야 한다
.
그렇지 않으면 도덕적 판단력이 소수 극강의 기술 혁신가들에 의해 통제될 수 있다
.
그들에게 맡겨진 세계는 민주주의는 사라지고
,
전체주의를 연상시키는
‘
기술 공화국
’
즉
, ‘
기술 권력
’
이 될 수 있다
.
다양성의 역사는 그런 도박을 감행할 여유가 없다는 것을 보여주고 있다
.
Tweet
기사메일보내기
글씨키우기
가나다라마바사
가나다라마바사
가나다라마바사
가나다라마바사
가나다라마바사
가나다라마바사
×
Tag
#실리콘밸리
#미국
#기술군사주의자
#극강혁신가
#민주주의
#팔란티어
#안두릴
#ICE
#이민세관단속국
#군산복합체
#MIC
#AI군산복합체
#가자지구
#라벤더
#가스펠
#Lvender
#Gospel
#하마스
#군사적구조물
#건물
#기술만능주의
#제노사이드
#Genocide
#멋진신세계
#BraveNewWorld
#올더스헉슬리
#유토피아
#디스토피아
#합법화된부패
저작권자 © 뉴스타운
김상욱 대기자
다른기사 보기
관련기사
트럼프, 이란 전쟁 속 ‘군수 총동원’ 미 제조업 생산 확대 카드
미 국방부, AI 기업 ‘앤트로픽’ ‘공급망 위험기업’ 지정
트럼프, 모든 연방 기관에 ‘앤트로픽 AI 기술’ 사용 폐지 명령
급성장 중인 ‘중국의 뇌-컴퓨터 인터페이스’ 산업
일부 기업들, AI 기술 핑계로 관련 없는 해고 ‘AI 워싱’ 폭로
중국산 AI 앱, 할리우드를 공포 속으로 몰아넣어
뉴스타운
뉴스타운TV
구독 및 시청료 후원하기
10,000원 후원하기
30,000원 후원하기
50,000원 후원하기
뉴스타운 정기후원
페이팔로 후원하기(해외독자)
국민은행 073001-04-055726 (예금주 : ㈜뉴스타운)
계좌번호 복사하기
댓글
0