[연재18회] AI와 정치... 여론은 만들어지고 있다

"당신이 본 그 영상, 그 후보가 실제로 한 말이 아닐 수 있다".... AI가 민주주의를 흔드는 방법

AI로 제작된 이미지/최정범 기자

(서울=국제뉴스) 최정범 기자 = 지난 17회차, 'AI 범죄 수사'에서는 잡는 것도 피하는 것도 AI인 시대를 살펴봤다. 이번 회차에서는 그 싸움이 가장 첨예하게 벌어지는 곳으로 들어간다. 민주주의의 심장부 - 선거와 여론의 영역. AI는 이미 그곳에 깊숙이 들어와 있다.

2025년 대통령 선거 기간. 유튜브와 카카오톡에 영상 하나가 퍼졌다. 특정 후보가 충격적인 발언을 하는 장면이었다. 수십만 명이 공유했다. 댓글이 폭발했다. 지지율이 흔들렸다.

그것은 가짜였다. AI가 만든 딥페이크 영상이었다.

선관위가 삭제를 요청했다. 국과수가 분석했다. 팩트체크 기사가 나왔다. 그러나 이미 수십만 명의 머릿속에는 그 장면이 남아 있었다.

이것이 2026년 한국 정치의 현실이다.

숫자가 먼저 말하게 하자... 사실 확인된 데이터

이번 기사에서 소개하는 모든 수치는 공식 기관과 검증된 매체의 보고서에 근거한다.

중앙선거관리위원회 집계에 따르면 선거 기간 딥페이크 영상 삭제 요청은 2024년 제22대 총선 388건에서 2025년 대선 1만510건으로 약 27배 폭증했다.

1년 사이 27배. 이것은 추세가 아니라 폭발이다.

러시아의 프라브다 네트워크는 2024년에만 360만 건에 달하는 친러시아 허위 정보를 배포했으며, 뉴스가드 조사에 따르면 오픈AI의 ChatGPT 4o, xAI의 그록, 구글의 제미나이 등 주요 AI 챗봇 10개가 이 허위 정보를 33%의 확률로 반복적으로 인용했다.

당신이 정치 현안을 AI에게 물어볼 때 받은 답변이, 러시아 선전의 영향을 받았을 가능성이 3분의 1이라는 뜻이다.

AI가 정치에 개입하는 다섯 가지 방식

AI로 제작된 이미지/최정범 기자

AI가 정치 영역에 개입하는 방식은 단순히 딥페이크 영상 하나가 아니다. 훨씬 다층적이고 정교하다.

방식 1 - 딥페이크 영상: 후보를 조작한다

공화당 전국위원회(RNC)는 2023년 4월 바이든 대통령이 2024 대선 도전을 공식 선언한 날 32초 분량의 영상을 공개했다. 이 영상에는 바이든 정부 2기가 출범하면 예상되는 디스토피아 세상을 묘사한 AI 사진이 담겨 문제가 됐다. Dt 미국 주요 정당이 공식 채널을 통해 AI 생성 이미지를 정치 공세에 활용한 것이다.

한국도 예외가 아니다. 딥페이크 기술로 구현된 AI 윤석열, AI 이재명이 유튜브에 등장했으며, AI를 사용해 제작되는 잘못된 정보가 선거의 정당성을 해칠 수 있다는 우려가 제기됐다.

특히 무서운 것은 타이밍이다. 선거에 임박해 딥페이크를 집중 살포하면, 상대 후보가 즉각 부인하며 상황을 정상으로 돌린다 해도 이미 가짜뉴스가 광범위하게 퍼진 상태이기 때문에 피해를 만회할 시간이 별로 없다.

방식 2 - LLM 그루밍: AI 챗봇을 세뇌한다

이것이 가장 새롭고 가장 무서운 방식이다.

프라브다 네트워크는 인간 독자를 대상으로 하기보다 AI 모델의 응답에 영향을 미치기 위해 거짓 주장과 선전을 퍼뜨리고 있다. 검색 결과와 웹 크롤러에 친크렘린 허위 정보를 대량으로 퍼뜨림으로써 대형 언어 모델이 뉴스와 정보를 처리하고 제시하는 방식을 왜곡하고 있다.

쉽게 말하면 이렇다. 가짜 기사를 인터넷에 대량으로 뿌려놓으면, AI가 학습 과정에서 그것을 사실로 받아들인다. 그러면 사람들이 AI에게 정치 현안을 물었을 때 AI가 허위 정보를 사실처럼 답한다. 사람을 직접 속이는 것이 아니라, AI를 통해 간접적으로 속이는 것이다.

이를 '대형언어모델 그루밍(LLM grooming)'이라고 부른다. YTN 사람이 아닌 AI를 세뇌하는 전략이다.

방식 3 - AI 댓글 봇: 여론을 조작한다

AI로 제작된 이미지/최정범 기자

텔레그램 내에서는 최근 AI로 구동되는 '댓글 봇'들이 러시아를 비롯한 점령지 내 여론 향배에 결정적인 영향을 끼쳐왔다는 내부 제보와 국제 보도들이 이어졌다. 누군가는 이 봇들을 "현대의 디지털 병사"라 칭한다.

AI 댓글 봇의 무서움은 규모다. 한 명의 사람이 수천 개의 계정을 운영하며 특정 의견을 집중적으로 달 수 있다. 어떤 기사의 댓글창이 특정 정치적 견해로 가득 차 있을 때, 그것이 실제 여론인지 봇이 만든 가짜 여론인지 구별하기 어렵다.

방식 4 - AI 맞춤형 메시지: 개인을 겨냥한다

AI가 개인의 정치 성향, 관심사, 두려움을 분석해 그에 맞춤화된 정치 메시지를 보내는 방식이다. 같은 후보에 대해 사람마다 다른 프레이밍으로 접근하는 것이다. 노동자에게는 일자리 관련 허위 정보를, 노인에게는 연금 관련 가짜 뉴스를, 청년에게는 취업 관련 왜곡 정보를 보낸다. 규모의 맞춤화가 AI로 가능해졌다.

방식 5 - 외국 세력의 선거 개입: 국경을 넘는다

국제 탐사보도 매체들이 포착한 '헬골랜드 바이트' 캠페인은 2025년 독일 선거 개입을 목적으로 했다. AI로 미국과 NATO 비판 메시지와 '독일을 위한 대안'(AfD) 정당 지지 콘텐츠를 제작해 텔레그램과 X에 유포했다. AI가 타국의 선거에 개입하는 도구로 쓰인 확인된 사례다.

한국의 법적 대응... 어디까지 왔나

AI로 제작된 이미지/최정범 기자

한국은 이 문제에 비교적 발 빠르게 대응했다. 그러나 기술의 속도를 완전히 따라잡기에는 아직 부족하다.

공직선거법 제255조에 따라 선거일 전 90일부터 선거일까지 선거운동 목적으로 딥페이크 영상이나 음성을 제작·유포할 경우 7년 이하 징역 또는 1000만~5000만 원 벌금형에 처해진다.

선관위에 따르면 선거일 전 90일까지는 AI 기술로 만든 가상 정보라는 사실을 영상 등에 표시하면 선거운동을 위해 해당 영상을 사용할 수 있지만, 그 이후부터는 전면 금지된다.

기술 대응도 이뤄지고 있다. 행안부와 국과수가 공동 개발한 AI 딥페이크 탐지 분석 모델은 제21대 대통령 선거 기간 중 선관위에 공유돼 유튜브 등 온라인 공간의 불법 딥페이크 선거물 1만여 건을 탐지 및 삭제하는 데 기여했다.

그러나 법과 기술의 한계도 분명하다. 해외 서버에서 유포되는 딥페이크는 국내법이 직접 적용되기 어렵다. 탐지 기술이 발전하는 속도보다 생성 기술이 발전하는 속도가 더 빠를 수 있다. 그리고 무엇보다, 한 번 퍼진 가짜 영상은 삭제돼도 사람들의 기억에서 삭제되지 않는다.

해외에서는 어떻게 대응하는가

2024년 캘리포니아주는 AI로 생성된 정치적 딥페이크를 규제하는 법안을 통과시켰다. 이 법안은 선거와 관련된 자료 가운데 '거짓을 기반으로 한' AI 생성 콘텐츠를 게시한 사람을 상대로 소송을 제기할 수 있도록 허용하는 내용을 담았다. 다만 표현의 자유와의 충돌 문제로 법적 논쟁이 이어지고 있다.

구글은 AI 챗봇 '바드'가 답변할 수 있는 선거 관련 질문을 제한했고, 구글과 메타는 선거 광고에 AI를 활용했을 경우 이를 반드시 표시하게 만들었다. 오픈AI는 달리가 생성한 이미지에 워터마크를 남기고 AI가 생성한 이미지인지 검증할 수 있는 도구를 출시했다.

빅테크 기업들이 자율 규제에 나서고 있지만, 그것이 충분한지에 대해서는 회의적인 시각이 많다.

시민이 스스로를 지키는 법

AI로 제작된 이미지/최정범 기자

정부와 기업의 대응을 기다리는 것만이 답이 아니다. 지금 당장 실천할 수 있는 것들이 있다.

출처를 먼저 확인하라. 충격적인 정치 영상이나 발언이 담긴 콘텐츠를 봤을 때 공유하기 전에 반드시 확인하라. 해당 발언이 언론에서 보도됐는지, 공식 채널에서 확인할 수 있는지를 먼저 검색하라. 카카오톡으로 받은 영상은 특히 주의가 필요하다.

딥페이크 의심 신호를 알아두어라. 눈 깜빡임이 없거나 부자연스럽고, 입술과 소리가 미세하게 어긋나며, 얼굴 경계선이 흐릿하거나 머리카락이 어색하면 딥페이크를 의심하라. 조명이 얼굴에만 이상하게 적용되는 경우도 마찬가지다.

AI에게 정치 현안을 물을 때 교차 확인하라. LLM 그루밍 문제가 실재하는 이상, AI 챗봇의 정치 관련 답변을 맹신해서는 안 된다. AI의 답변을 시작점으로 삼되, 반드시 신뢰할 수 있는 복수의 출처에서 교차 확인하는 습관이 필요하다.

감정이 격해지는 콘텐츠일수록 멈추어라. AI 여론조작의 핵심 전략은 분노, 공포, 혐오 같은 강한 감정을 자극하는 것이다. 정치 관련 콘텐츠를 보다가 감정이 격해지면 그것이 조작의 신호일 수 있다. 공유 버튼을 누르기 전에 한 번 더 멈추는 것이 스스로를 지키는 방법이다.

AI가 만든 여론, 민주주의를 버틸 수 있는가

민주주의는 시민이 정확한 정보를 바탕으로 판단한다는 전제 위에 서 있다. AI 여론조작은 그 전제를 공격한다.

딥페이크가 후보의 발언을 조작하고, LLM 그루밍이 AI 챗봇을 세뇌하고, 댓글 봇이 가짜 여론을 만든다. 시민은 무엇을 믿어야 하는가.

이 연재 13회차에서 AI 사기를 다루며 말했던 것이 여기서도 유효하다. "보이는 것을 믿지 말고, 들리는 것을 의심하고, 확인한 뒤에 행동하라." 그 원칙이 이제 정치 정보를 대하는 시민의 기본 태도가 돼야 하는 시대가 됐다.

기술의 발전이 나쁜 것이 아니다. 그 기술을 민주주의를 흔드는 데 쓰는 사람들이 문제다. 그리고 그에 맞서는 것은 결국 기술이 아니라 시민의 판단력이다.

여론은 만들어지고 있다, 그것을 아는 것이 시작이다

AI로 제작된 이미지/최정범 기자

여론이 AI로 만들어지고 있다는 사실을 아는 것과 모르는 것은 다르다. 알고 있으면 경계할 수 있다. 모르고 있으면 조작당한다.

선거 기간 딥페이크 삭제 요청이 1년 만에 27배 폭증한 한국에서, 유권자로서 스스로를 지키는 가장 강력한 무기는 비판적 사고다. 충격적인 영상을 봤을 때 공유하기 전에 5분만 확인하는 습관, 그것이 AI 시대 민주주의를 지키는 첫걸음이다.

AI는 여론을 만들 수 있다. 그러나 최종 판단은 여전히 사람이 한다. 그 판단이 흔들리지 않도록 하는 것, 그것이 지금 우리 모두에게 주어진 과제다.