[99.9MHz] 내가 보는 세상은 진짜인가...AI와 정보인권 7편

잘 설계된 알고리즘이 만드는 ‘정보 편식’… 민주주의 근간 흔든다

우리가 매일 스마트폰으로 접하는 뉴스와 영상이 스스로의 선택이 아닌, 정교하게 설계된 알고리즘에 의해 제공된 것이라면 우리는 과연 자유로운 의지로 세상을 바라본다고 말할 수 있을까?

22일 방송된 OBS 라디오 <굿모닝OBS> 특별기획 ‘AI와 정보인권’ 대담에서는 미디어오늘 윤수현 기자와 법무법인 다산의 문병주 변호사가 출연해 AI가 만드는 맞춤형 정보와 그로 인한 여론 왜곡의 실태, 그리고 민주주의를 지키기 위한 해법에 대해 심도 있는 논의를 나눴다.

‘필터버블’에 갇힌 시민들… “반대 의견 찾아보는 비율 17.8%에 불과”

이날 대담에서 가장 먼저 화두가 된 것은 ‘필터버블(Filter Bubble)’ 현상이다. 필터버블이란 알고리즘이 이용자의 취향에 맞는 정보만을 선별해 제공함으로써, 이용자가 자신만의 정보 울타리에 갇히는 현상을 말한다.

문병주 변호사는 2023년 조사에 따르면 균형적으로 반대 의견을 찾아본다는 응답자가 2021년 25.8%에서 17.8%로 급락했다며 정치에 관심이 많을수록 필터버블이 더 두꺼워지는 역설적인 현상이 나타나고 있다고 지적했다.

이는 민주주의의 핵심인 ‘다양한 의견에 기반한 합의’ 구조를 근본적으로 위협한다는 분석이다. 윤수현 기자는 뉴스 소비에서도 보수와 진보 성향에 따라 보는 언론사가 극명하게 갈린다며 특정 정치 성향의 뉴스만 반복해서 보게 되면 그 주장을 사실로 받아들이게 되는 ‘확증 편향’이 심화될 수밖에 없다고 우려를 표했다.

‘드루킹’은 옛말… AI 에이전트가 만드는 ‘가짜 합의’의 공포

과거 ‘드루킹 사건’처럼 매크로 프로그램을 이용한 단순 댓글 조작의 시대는 지났다. 이제는 AI가 이용자의 심리를 분석해 설득력 있는 댓글을 달고, 수천 개의 가짜 계정을 동원해 여론을 조작하는 ‘악성 군집 AI’가 등장했다.

문 변호사는 이를 ‘합성적 합의(Synthetic Consensus)’라고 명명하며, 수천 개의 AI 에이전트가 각 커뮤니티의 말투와 문화를 학습해 실제 사람처럼 행동하며 마치 대다수가 동의하는 것처럼 여론을 꾸며낸다고 설명했다.

실제로 러시아의 영향력 공작 네트워크 등이 이런 전술을 사용하고 있다는 연구 결과도 소개됐다. 정치권에서의 딥페이크(Deepfake) 악용 사례도 심각하다. 2024년 미국 대선 예비경선 당시 바이든 대통령의 목소리를 복제해 투표 포기를 독려한 가짜 전화 사건, 우크라이나 전쟁 당시 고위 관료의 딥페이크 영상 유포 등이 대표적이다.  국내에서도 선거 국면에서 AI를 활용한 후보자 영상이 논란이 된 바 있다.

‘세금 폭탄’ 등 숫자 왜곡과 AI의 고정관념 답습

기존 언론의 ‘숫자 왜곡’ 문제도 짚었다. 윤 기자는 주택 가격 상승으로 세수가 늘어난 것을 맥락 없이 ‘세금 폭탄’이라고 보도하는 사례처럼, 숫자는 거짓말을 하지 않지만 이를 해석하는 방식에서 심각한 왜곡이 발생한다고 꼬집었다.

또한 AI 자체가 가진 편향성도 문제로 지적됐다. 문 변호사는 생성형 AI가 의사를 그릴 때는 남성을, 간호사를 그릴 때는 여성을 기본값으로 설정하는 등 고용·금융·의료 분야에서 기존의 차별과 편견을 그대로 학습해 증폭시킬 위험이 있다고 경고했다.

제도적 해법은? ‘알고리즘 공개법’과 ‘징벌적 손해배상’

이런 위험으로부터 민주주의를 지키기 위해 제도적 장치가 마련되어야 한다는 점에 두 전문가는 입을 모았다. 문 변호사는 유럽연합(EU)의 디지털 서비스법처럼 대형 플랫폼의 추천 알고리즘 주요 매개 변수를 공개하고 외부 감사를 의무화하는 ‘플랫폼 알고리즘 공개법’ 도입이 필요하다고 제안했다.

또한, 악의적인 허위 조작 정보 유포에 대해 최대 5배의 책임을 묻는 징벌적 손해배상제의 엄격한 적용도 필요하다고 덧붙였다.

포털 사이트의 뉴스 제휴 심사 방식 변화에 대해서도 논의됐는데, 네이버 등이 도입하려는 ‘배심원제’는 투명성 확보 차원에서 긍정적이지만, 결국 알고리즘 설계 원칙 자체가 뉴스 다양성을 보장하는 방향으로 개혁되어야 한다는 지적이다.

“의심하는 힘이 민주주의를 지킨다”

마지막으로 두 출연자는 시민들의 자발적인 ‘미디어 리터러시’를 강조했다. 윤수현 기자는 최근 ‘참새가 러브버그를 먹는다’는 AI 조작 영상에 언론사들까지 속았던 사례를 들며, “재확인하고 의심하는 습관이 AI 시대에 속지 않는 유일한 방법”이라고 말했다.

문병주 변호사 역시 결국 공부해야 하는 것은 ‘의심하는 힘’이라며 정보를 접했을 때 누가 이익을 얻는지, 반대 성향 매체는 어떻게 보도하는지 질문하는 태도가 알고리즘을 이기는 강력한 수단이 될 것이라고 당부했다.

AI가 정보를 선별하고 여론을 만드는 시대, 우리가 보는 세상이 ‘진짜’인지 끊임없이 질문하는 시민의 비판적 사고가 그 어느 때보다 절실해지고 있다.

OBS 뉴스는 언제나 여러분의 제보를 기다립니다.

▶ 전화 032-670-5555

▶ 이메일 jebo@obs.co.kr

▶ 카카오톡 @OBS제보