사진=팔란티어 CI
[비즈월드] 최근 전장에서 인공지능(AI) 활용이 확대되는 가운데, 미국 데이터 분석 기업 팔란티어의 기술이 오폭에 연루됐다는 논란이 제기되며 국제적 관심이 집중되고 있다.
그러나 해외 주요 매체 분석에 따르면, 실제 원인은 AI 자체보다는 인간의 의사결정 과정에 있다는 평가가 힘을 얻고 있다.
영국 매체 가디언은 최근 보도에서 이란 내 특정 시설에 대한 공습 사건을 둘러싸고 AI 책임론이 제기됐지만, 조사 결과 단순한 알고리즘 오류로 단정하기 어렵다고 전했다.
보도에 따르면 초기에는 AI 시스템이 잘못된 표적을 제시했다는 의혹이 확산됐으나, 이후 분석에서는 정보 해석과 공격 승인 과정에서의 인간 판단이 주요 변수로 지목됐다.
팔란티어의 군사용 AI 시스템은 방대한 전장 데이터를 분석해 잠재적 표적을 식별하는 역할을 수행하는 것으로 알려져 있다.
특히 미군이 활용 중인 ‘메이븐’ 프로젝트 등에서 이러한 기술이 적용되며, 실시간 정보 분석과 의사결정 지원 기능을 제공한다.
해당 시스템은 어디까지나 보조 도구로, 실제 공격 여부를 최종적으로 결정하는 주체는 인간 지휘관이다.
이번 논란은 AI가 전쟁 수행 방식에 미치는 영향을 둘러싼 근본적인 질문을 제기한다.
기술이 발전하면서 정보 처리 속도와 분석 능력은 크게 향상됐지만, 동시에 판단 과정이 복잡해지며 오판 가능성도 증가하고 있다는 지적이 나온다.
특히 전투 상황에서 제한된 시간 내 결정을 내려야 하는 환경은 인간의 오류 가능성을 더욱 높일 수 있다.
전문가들은 AI 시스템이 제시하는 결과를 그대로 수용하는 것이 아니라, 이를 검증하고 해석하는 과정이 중요하다고 강조한다.
데이터의 정확성과 알고리즘 설계, 그리고 이를 활용하는 조직의 의사결정 구조가 복합적으로 작용하기 때문에, 특정 사건을 단순히 기술 문제로 환원하는 것은 한계가 있다는 분석이다.
또한 이번 사례는 ‘AI 책임론’과 ‘인간 책임론’ 사이의 논쟁을 다시 부각시키고 있다.
일부에서는 자동화된 시스템이 전쟁의 속도를 지나치게 높여 오류를 확대할 수 있다고 우려하지만, 다수 분석은 최종 판단 권한이 인간에게 있는 만큼 책임 역시 인간에게 있다는 입장이다.
결국 이번 논란은 AI 기술 자체보다 이를 운용하는 방식과 통제 체계의 중요성을 보여주는 사례로 평가된다.
전장에 AI 도입이 확대되는 흐름 속에서, 기술과 인간의 역할 분담을 어떻게 설정할 것인지가 향후 군사 전략의 핵심 과제로 떠오르고 있다.
[비즈월드=김현태 기자 / 6vndfb@hanmail.net]
댓글
0