= 챗 GPT로 생성된 이미지
[이코리아] 생성형 인공지능(AI)이 선거 과정에서 허위정보를 확산시키거나 유권자에게 잘못된 정보를 전달할 수 있다는 우려가 전 세계적으로 커지고 있다.
영국 가디언은 20일자 보도에서 싱크탱크 데모스(Demos)의 조사 결과를 인용해, 스코틀랜드 의회 선거를 앞두고 주요 AI 챗봇들이 선거 관련 질문에 다수의 오답을 내놓았다고 전했다. 데모스는 챗 GPT, 구글 제미나이, 그록, 레플리카 등 무료 AI 도구를 대상으로 실제 지역구와 선거 정보를 묻는 75개 질문을 던졌으며, 전체 답변의 34%에서 오류가 확인됐다고 밝혔다. 일부 AI는 존재하지 않는 후보를 만들어내거나 가짜 스캔들을 언급했고, 선거일을 잘못 안내하거나 투표소 신분증 필요 여부 등 투표 규정에 대해서도 부정확한 답변을 제공했다.
조사 결과에 따르면 미국의 AI 챗봇 레플리카는 답변의 56%에서 오류가 확인돼 가장 높은 오류율을 보였으며 챗 GPT는 46%, 구글 제미나이는 22%의 오류율을 기록했다. 그록은 9%로 상대적으로 낮은 오류율을 보였지만, 제공한 외부 링크의 품질이 낮거나 관련성이 떨어지는 경우가 지적됐다. 데모스는 AI 도구들이 공식 출처를 제시하지 않거나 오래된 링크를 제공하는 사례도 적지 않았다고 분석했다. 영국 선거관리위원회는 이를 근거로 AI 기업에 선거 관련 정보 정확성에 대한 책임을 부과하고, 선거 기간 중 AI 플랫폼을 규율할 수 있는 법적 장치가 필요하다고 주장했다.
비슷한 문제는 다른 국가에서도 확인됐다. 미국에서는 지난 2024년 대선을 앞두고 X의 AI 챗봇 그록이 일부 주의 투표 마감일을 잘못 안내해 주 선거당국자들이 문제를 제기한 바 있다. 이후 X는 선거 관련 질문에 대해 직접 답변하는 대신 이용자에게 공식 정부 사이트를 안내하도록 하는 조치를 취했다.
지난해 네덜란드에서 치러진 총선에서도 AI 챗봇의 선거 개입 가능성이 문제가 됐다. 영국 가디언과 알자지라 등 외신에 따르면 네덜란드 개인정보보호 당국은 지난해 10월 29일 총선을 앞두고 유권자들에게 AI 챗봇을 투표 조언 도구로 사용하지 말라고 경고했다. 당국은 챗GPT, 구글 제미나이, 미스트랄, 그록 등 주요 챗봇을 대상으로 1500개의 가상 유권자 프로필을 입력해 어떤 정당을 추천하는지 조사했다. 그 결과 챗봇들은 이용자의 정책 선호와 무관하게 극우 성향의 자유당(PVV)이나 좌파 성향의 녹색좌파·노동당 연합(GroenLinks-PvdA)을 반복적으로 추천하는 경향을 보였다.
네덜란드 당국은 일부 중도 성향 정당이나 기독민주당(CDA), 덴크(Denk) 등은 이용자의 입력 내용이 해당 정당의 입장과 부합하는 경우에도 거의 추천되지 않았다고 지적했다. 모니크 베르디에르 네덜란드 개인정보보호 당국 부위원장은 AI 챗봇이 겉으로는 똑똑한 도구처럼 보이지만 투표 조언 도구로는 일관되게 실패하고 있다며, 유권자가 자신의 정치적 견해와 맞지 않는 정당 쪽으로 유도될 수 있다고 경고했다. 당국은 이러한 문제가 챗봇이 의도적으로 특정 정당을 지지해서 발생한 것은 아니지만, 작동 방식이 불투명하고 검증하기 어렵다는 점에서 자유롭고 공정한 선거의 신뢰성을 훼손할 수 있다고 봤다.
이러한 해외 사례는 AI 선거 리스크가 딥페이크 영상이나 음성 합성물에 그치지 않고, 챗봇과 AI 검색이 유권자에게 잘못된 선거 정보를 제공하는 문제로 확장되고 있음을 보여준다.
= 뉴시스
한국에서도 6·3 지방선거를 앞두고 AI를 활용한 허위정보와 조작 콘텐츠에 대한 우려가 커지고 있다. 특히 논란이 되는 부분은 후보자 얼굴이나 목소리를 조작한 딥페이크, 허위사실 공표, 비방 게시물 등이다. 현행 공직선거법은 선거일 전 90일부터 선거운동을 위해 실제와 구분하기 어려운 AI 생성 음향·이미지·영상을 제작·편집·유포하는 행위를 금지하고 있다. 선거일 전 90일 이전에는 AI 생성물이라는 점을 표시하면 허용될 수 있지만, 선거일 전 90일 이내에는 표시 여부와 관계없이 선거운동 목적의 딥페이크 활용이 금지된다.
실제 지방선거를 앞두고 AI 합성물을 둘러싼 논란도 발생했다. 선거관리위원회에 따르면 지난 2월 울산 남구청장 선거에 출마를 준비하던 한 예비후보가 외국 유명 시사주간지가 자신을 지역 발전을 이끌 인물로 선정했다는 내용의 딥페이크 영상을 SNS에 게시했다가 선관위에 고발됐다. 해당 영상은 AI로 구현된 아나운서가 뉴스를 진행하는 형식으로 제작됐으며, AI 생성물이라는 표시도 없었던 것으로 알려졌다. 이는 딥페이크 관련 공직선거법 조항이 신설된 이후 첫 고발 사례로 꼽힌다.
정부는 지방선거를 앞두고 AI 기반 허위정보 대응 수위를 높이고 있다. 김민석 국무총리는 20일 공명선거 관계장관회의에서 허위정보, 금품선거, 공무원의 선거 개입을 3대 선거범죄로 규정하고 무관용 원칙으로 대응하겠다고 밝혔다. 특히 AI를 활용한 딥페이크 선거범죄에 대해서는 최초 제작자부터 유포자까지 추적해 법이 허용하는 최대한의 처벌이 이뤄지도록 하겠다고 강조했다.
행정안전부도 범정부 차원의 허위·가짜뉴스 대응 체계를 가동하고 있다. 행안부는 지방선거를 앞두고 관계부처 협의체를 운영하며 선거 관련 허위정보 확산 차단에 나섰다. 선관위는 딥페이크·허위사실공표·비방 등 특별 대응팀을 구성해 관련 정보를 정부와 실시간 공유하고 있으며, 중대한 위법 게시물에 대해서는 수사기관 고발 등 공조도 병행하고 있다. 국립과학수사연구원과 공동 개발한 AI 딥페이크 탐지 모델도 적용해 영상의 전체 흐름과 얼굴 등 특정 부위의 조작 흔적을 함께 분석하는 방식으로 대응하고 있다.
수사기관도 선거사범 대응 체계를 강화했다. 경찰청 국가수사본부는 후보자 등록 개시일인 5월 14일부터 선거사범 대응 체계를 최고 수준인 3단계로 격상했다. 경찰은 허위·가짜뉴스 유포 등 흑색선전, 금품·향응 수수, 공무원의 정치적 중립 의무 위반을 주요 선거범죄로 보고 무관용 원칙을 적용한다는 방침이다. 특히 AI 조작 콘텐츠 분석 대응 체계를 가동해 디지털 증거분석 기법으로 콘텐츠 제작부터 유포 과정까지 재구성하고, 범죄 혐의 입증에 활용하겠다고 밝혔다.
주요 IT 플랫폼 기업들도 선거 정보 제공 체계를 강화하고 허위정보 대응 체계를 마련하고 있다. 네이버는 지난 7일부터 ‘제9회 전국동시지방선거 특별페이지’를 운영하며 언론사별 선별 기사, 지역별 선거 뉴스, 여론조사, 주요 일정 등 선거 정보를 제공하고 있다. 선거기간 개시일인 21일부터는 중앙선관위가 제공하는 후보자 정보도 제공한다. 네이버는 정치·선거 섹션 기사 본문 하단 댓글을 제공하지 않고, AI 기반 탐지 시스템 ‘클린봇’이 일정 기준 이상의 악성 댓글을 탐지하면 댓글을 자동 비활성화한다. 후보자명에 대한 자동완성·검색어 제안 기능 제한, 선거 관련 허위정보 댓글 신고 기능, 24시간 모니터링과 선관위 핫라인도 병행한다.
다음도 6·3 지방선거 특집 페이지를 열고 후보자 정보, 여론조사, 토론회·방송 생중계 등 선거 관련 정보를 제공하고 있다. 특집 페이지는 여론조사, 심층 보도, 화제지역, 재보궐, 광역·기초 선거, 교육감 선거 등으로 구성됐다. 다음은 후보자별 타임라인, 지지율 추이, 지역별 공약 현황 등도 AI 기반 그래픽으로 제공할 계획이다. 또 중앙선관위가 조치한 불공정 선거 보도 목록을 상시 제공하고, 딥페이크·허위사실·비방 게시물을 신고하거나 제보할 수 있는 링크를 제공한다.
틱톡은 20일 온라인 브리핑을 통해 6·3 지방선거 기간 허위정보와 AI 생성 조작 콘텐츠 확산을 막기 위한 운영 원칙을 밝혔다. 틱톡은 중앙선관위와 핫라인을 구축하고, 선거 관련 위법 허위정보에 대해서는 삭제·노출 제한·계정 조치 등을 검토하겠다고 설명했다. 투표일, 투표장, 투표 자격, 투표 절차 등에 대한 오도성 정보와 조직적 허위 행위, 출처를 속인 콘텐츠, 선거 참여를 저해할 수 있는 정보는 허용하지 않는다는 방침이다. 또 AI 생성 콘텐츠에 대해서도 현실 사건을 왜곡하거나 실제 인물의 발언·행동을 허위로 묘사하는 콘텐츠를 허용하지 않겠다고 밝혔다.
댓글
0