인류 문명 변화는 인간을 이해하는 방식이 바뀌어 온 역사이기도 하다. 인간을 어떻게 이해하느냐에 따라 사회 제도와 경제 구조가 달라졌고, 과학기술 역시 그 인간관 위에서 발전해 왔다. 산업혁명은 인간을 노동하는 존재로 이해했고, 정보혁명은 인간을 데이터를 생산하는 존재로 이해했다. 검색 기록, 구매 내역, SNS 활동 등이 빅데이터로 수집되었던 것을 그 예로 들 수 있다. 그리고 생성형 AI가 도래하면서 인간은 새로운 인간을 만들어 내는 생성의 재료로 이해되고 있다.
인간을 바라보는 문명 자체가 바뀌고 있다는 뜻이다. 과거의 한 때는 기계가 등장하며 인간의 노동을 대신했고, 이후에는 인간의 정보를 컴퓨터가 분석했다. 그리고 생성형 AI는 인간의 얼굴과 목소리, 말투와 표정, 심지어 글쓰기의 습관까지 학습하여 존재하지 않았던 또 하나의 인간 이미지를 만들어 낸다. 인간은 기술의 사용자로서만이 아니라 기술이 새로운 현실을 구성하기 위해 활용하는 재료로 바뀌고 있다. 이는 달리 말하면 목적을 생성하기 위한 '재료'라는 말도 된다.
최근 Meta가 공개했다가 사흘 만에 철회한 AI 뮤즈 이미지 사건은 이러한 인간관의 변화가 사회적 윤리와 처음으로 정면 충돌한 대표적 사례라 할 수 있다. Meta는 인스타그램 공개 계정의 사진을 이용하여 새로운 이미지를 생성하는 기능을 선보였다. 사용자가 다른 누군가의 공개 계정을 태그하면 그 사람의 얼굴을 이용해 현실에는 존재하지 않는 장면을 만들어 낼 수 있었고, Meta는 이를 창작을 돕는 새로운 AI 기능으로 소개했다.
그러나 사람들은 인스타그램에 공개한 자신의 사진이 무단으로 AI 이미지 생성의 재료로 사용되는 것을 거부했다. 문제는 해당 기능이 사람들의 동의 여부와 무관하게 기본적으로 '동의'로 설정(옵트아웃 방식)되어 있기 때문에 일부러 설정을 찾아서 '거부'로 기능을 바꾸기 전에는 AI 생성 재료로 자신의 초상이 사용될 수 있다는 점이다. 이 때문에 배우와 창작자 단체들은 얼굴과 이미지의 사용에는 반드시 사전 동의가 전제되어야 한다고 반발했다. 결국 Meta는 서비스를 공개한 지 불과 사흘 만에 기능을 중단했다.
이번 사건은 표면적으로는 개인정보 보호나 동의 절차에 관한 문제처럼 보인다. 실제로 많은 언론들이 옵트아웃 방식의 한계와 딥페이크의 위험성, 초상권과 사생활 침해 문제를 거론했다. 물론 이들은 타당한 논의로 보인다. 한편, 자신의 얼굴이 자신도 모르는 사이 가상의 인간 이미지를 만들어 내는 원료가 되었다는 것은 또 다른 문제를 제시한다.
왜 사람들은 자신의 얼굴이 AI에 의해 활용되는 것에 본능적으로 거부감이 생길까. 얼굴은 그 사람에 대한 기억이며, 신용이고, 또한 관계이기 때문이다. 얼굴은 생물학적 특징인 동시에 한 인간의 사회적 존재를 드러내는 가장 직접적인 매체이다. 얼굴을 생성의 재료로 사용한다는 것은 누군가의 정체성을 왜곡시켜 놓을 가능성을 말하기도 한다.
AI 시대가 사용하는 것은 인간의 노동이나 정보도 아니라 인간 그 자체이다. 얼굴과 목소리, 말투와 표정, 사고방식과 창작 양식까지도 AI가 새로운 인간을 만들어 내는 재료가 된다. 이것은 인간 대상화의 새로운 단계로 보아야 한다.
인간을 하나의 데이터 집합으로 본다면 누군가의 얼굴과 목소리가 분석과 생성의 대상이 되지만, 인간을 누구와도 대체될 수 없는 존재로 본다면 이야기는 달라진다. 존재는 재료처럼 자유롭게 결합하고 변형할 수 있는 대상이 아니라, 먼저 존중되어야 할 고유의 주체이기 때문이다.
이 점에서 칸트는 인간을 언제나 목적 그 자체로 대해야 하며 결코 다른 목적을 위한 수단으로 삼아서는 안 된다고 했다. 공자는 인(仁)을 애인(愛人)이라 설명하며 사람을 인격으로 존중하라고 했다. 불교는 모든 존재가 불성을 지닌 존귀한 존재임을 강조했다. 이 사상들은 서로 다른 시대와 문화 속에서 사유되었지만 한결같이 공통된 원칙을 지닌다. 인간은 이용의 대상이 아니라 존중의 대상이라는 것이다.
생성형 AI는 이 오래된 철학의 의미를 되새기게 만든다. 기술은 인간과 닮은 존재를 얼마든지 만들어 낼 수 있지만, 그 사실이 곧 인간을 생성의 재료로 사용할 권리를 의미하는 것은 아니다. 기술적 가능성과 윤리적 정당성은 다른 차원의 문제이기 때문이다.
Meta 사건에서 보여진 의미는 이 사회가 AI 기술 자체를 거부한 것이 아니라 인간을 이해하는 특정한 방식을 거부했다는 측면이다. AI 시대에도 인간은 여전히 데이터 이전의 본래 존재이며, 기술은 그 존재를 존중하는 범위 안에서만 정당성을 가질 수 있다는 사회적 선언이라 할 수 있다.
생성형 AI는 인간과 닮은 이미지를 무한히 만들어 낼 수 있게 되었다. 그러나 승패는 그 기술에 앞서 '인간의 동의'를 어떻게 끌어낼 것인지에 달려있다. 문명은 아무리 기술 발전되어도 인간의 존엄성과 존재를 존중할 때에만 비로소 앞으로 나아갈 수 있을 것이다.
댓글
0