[가고파] AI가 지배하는 세상- 이상규(산청거창함양 본부장)

최근 한 지인이 추천한 노래를 듣고 놀랐다. 이 곡은 AI가 작사·작곡한 노래로 ‘한잔 술에 묻는다’란 노래였다. 웬만한 기성 가수 노래보다 좋은 이 곡은 절절한 슬픔과 애절함 등을 담고 있다. 가사도 좋거니와 AI가수는 요즘 시중에 인기를 끄는 트로트 가수 노래와 비교해도 손색이 없을 정도로 잘 불렀다.

이런 노래를 접하면 가수와 작사가는 앞으로 설 자리가 없는 것처럼 느껴진다. 다행히 한국음악저작권협회는 아직 AI 창작물의 저작권을 인정하지 않고 있지만, 언젠가는 AI가 엔터테인먼트 분야도 장악할 게 뻔하다. AI가 처음 대두될 때까지만 해도 반복되는 단순한 일, 예컨대 가사와 노동 등의 단순 육체노동이 가장 먼저 사라질 것으로 예상됐다. 그런데 최근 경향은 법률과 회계, 코딩, 의료계 등 전문직 영역까지 침투한 AI의 기세가 인간의 입지를 빠르게 좁히고 있다.

그중에서도 우리가 가장 두려워해야 할 분야는 일자리 상실보다 AI가 ‘죽음의 결정권’을 갖게 되는 상황이다. 현대 전쟁에 도입된 AI는 인간의 판단을 배제한 채 효율성만을 따져 살상 여부를 결정한다. 실제로 최근 중동 전쟁에서 이스라엘군은 ‘라벤더(Lavender)’와 ‘가스펠(Gospel)’이라 불리는 AI 표적 식별 시스템을 실전에 투입했다. 이 시스템은 방대한 데이터를 분석해 순식간에 수만 명의 살상 명단을 만들어냈고, 인간은 기계의 판단을 승인하는 역할로 전락했다.

이 과정에서 발생한 알고리즘의 오류나 ‘부수적 피해’라는 이름 아래 자행된 민간인 살상은 누가 책임져야 할까. 전쟁터의 AI는 죄책감도 생명에 대한 존중도 없다. 목표물 제거라는 수치화된 목표만을 좇을 뿐이다. 알고리즘에 인간의 운명을 맡기는 건 재앙이다. AI가 지배하는 세상은 시작되었다. 편리함이라는 달콤한 포장지 뒤에 숨겨진 ‘통제 불가능한 폭력성’을 막아야 한다. AI가 인류의 존엄성을 해치지 않도록 윤리적 가이드라인과 국제적 합의를 마련해야 할 때이다.

이상규(산청거창함양 본부장)