[미디어스=김홍열 칼럼] 피지컬 AI(Physical AI)에 이어 ‘
이모셔널 AI
(Emotional AI)’가 급격히 진화하고 있다. 환자가 연민이 필요한 순간을 감지해 적절한 위로를 전하는 AI나 운전자의 피로가 감지되면 음악을 틀어 심리적 안정을 돕는 AI가 등장하고 있다. 인간의 육체적 노동을 대신하는 피지컬 AI 도입에 대해서는 생산성 향상과 위험 작업 대체라는 측면에서 대체로 긍정적인 합의를 이룬 상태지만 인간의 고유 영역이라 믿어왔던 감정을 다루는 이모셔널 AI에 대해서는 논란이 이어지고 있다. 기술이 인간의 마음을 읽고 반응한다는 점은 분명 매력적이지만, 그 이면에 숨겨진 통제와 조작의 가능성 때문에 환대와 경계라는 두 가지 시선을 동시에 받고 있다.
이모셔널 AI라는 개념은 비교적 최근에 등장했다. 영국의 앤드류 맥스테이(Andrew McStay) 교수가 2018년 저서 《Emotional AI: The Rise of Empathic Media》를 통해 인공지능이 인간의 감정을 데이터화하고 이를 미디어와 산업 전반에 활용하는 공감 미디어의 부상을 예견했다. 맥스테이 교수는 기술이 인간의 미세한 표정, 음성, 생체 신호를 분석해 내면의 상태를 추론하는 능력을 갖추게 되었음을 강조했다. 그는 이러한 기술적 진보가 우리 삶의 편의를 증진하는 동시에, 감정이 데이터로 치환되는 과정에서 발생할 수 있는 윤리적·사회적 문제들을 날카롭게 지적하며 담론의 장을 열었다.
제미나이 생성 이미지
맥스테이 교수의 예측은, AI 발달과 현대인이 겪는 정서적 고립이 연결되면서 현실이 되고 있다. 파편화된 인간관계 속에서 기계로부터라도 위로와 공감을 얻고자 하는 심리적 갈증이 커졌기 때문이다. 스마트폰 속 AI 비서가 사용자의 목소리 톤에서 우울함을 감지해 위로의 음악을 추천하고, 헬스케어 로봇이 노인의 외로움을 달래주는 모습은 이제 낯설지 않은 풍경이다. 기술이 인간의 가장 사적인 영역인 '마음'을 데이터로 처리할 수 있게 되면서, 이모셔널 AI는 단순한 도구를 넘어 현대인의 정서적 동반자로 빠르게 자리 잡고 있다. AI를 통한
감정의 상품화
가 본격적으로 이루어지고 있는 것이다.
기업들은 당연히 이 신규 아이템에 적극적이다. 기업들은 이모셔널 AI를 통해 수집된 감정 데이터를 소비자 행동 분석을 위한 핵심 마케팅 자료로 적극 활용한다. 예를 들어, 특정 광고를 볼 때 소비자의 동공 확장이나 표정 변화를 실시간으로 추적해 구매 의사를 예측하거나, 쇼핑몰 매장에서 고객의 기분에 맞춘 조명과 음악을 배치해 소비를 유도하는 방식이다. 이는 소비자에게 최적화된 경험을 제공한다는 명목하에 수행되지만, 실상은 인간의 무의식적인 감정 반응마저 정밀한 계산의 대상이 되었음을 의미하기도 한다. 기업들은 우선 감정 데이터를 얻기 위해 대화 또는 접촉을 유도한다.
사용자와 정서적 유대를 형성하는 대화형 AI는 플랫폼 기업들에게 강력한 비즈니스 모델을 제공한다. AI가 사람의 감정을 적절하게 터치하고 공감해 줄 때, 사용자는 기계와의 대화에 더 깊이 몰입하게 되며 결과적으로 해당 서비스에 머무는 체류 시간이 비약적으로 늘어난다. 챗봇과의 시시콜콜한 대화나 고민 상담은 사용자에게 심리적 만족감을 주지만, 플랫폼 입장에서는 이를 통해 더 많은 데이터를 수집하고 광고 노출 기회를 확보하는 고도의 전략이 숨어 있다. 다정한 위로를 건네는 AI의 목소리 뒤에는 사용자를 플랫폼 생태계 안에 더 오래 묶어두려는 자본의 논리가 정교하게 작동하고 있는 것이다.
인공지능(AI) 관련 이미지 [로이터 연합뉴스 자료사진]
결국 AI 시대에는 인간의 가장 내밀한 감정조차 디지털 데이터화를 거쳐 하나의 시장가치를 지닌 상품이 된다. 기쁨, 분노, 슬픔, 불안 등의 정서적 상태는 '0'과 '1'의 숫자로 치환되어 서버에 저장되고, 이는 누군가에게는 수익을 가져다주는 자원이 된다. 감정이 객관적인 수치로 관리되면서 우리는 자신의 기분을 스스로 살피기보다 기술적 진단에 의존하게 되는 경향을 보인다. 인간의 마음이 기술에 의해 해체되고 재조립되는 과정에서 인간 존재의 존엄성보다는 데이터로서의 가치가 우선시되는 역설적 상황이 발생한다. 이는 정보사회가 도달한 감정의 추출 자본주의 단계를 명확히 보여주는 서글픈 지표이기도 하다.
더욱 우려스러운 점
은 AI가 인간의 취약한 감정을 파고들어 편향된 정보를 제공하거나 불행한 선택을 하도록 은밀하게 유도할 수 있다는 사실이다. 시간이 흐를수록 인간은 심리적으로 의존하게 된 AI의 제안에 무비판적으로 순응하기 쉽다. 유럽연합(EU)이 2024년 '인공지능법(AI Act)'을 통해 특정 집단의 감정을 조작하거나 취약성을 악용하는 AI 기술을 엄격히 규제하기 시작한 이유도 바로 여기에 있다. AI는 어디까지나 인간을 돕는 보조적인 도구에 머물러야 하며, 그 주도권은 항상 인간에게 있어야 한다. 기술에 마음을 내어주기보다 기술을 비판적으로 읽어내는 디지털 리터러시가 오늘날 우리에게 절실히 필요한 이유이다.
☞ 네이버 뉴스스탠드에서 ‘미디어스’를 만나보세요~
댓글
0