[아침을 열며] AI시대 뉴스·정보 가치 붕괴와 신뢰 위기

인공지능이 만든 가짜영상·콘텐츠 확산

의심이 기본값이 되는 사회 도래할 수도

2016년 알파고 대 이세돌의 바둑 대결 이후 인공지능(AI) 기술은 시대를 거스를 수 없는 흐름이 되었고 인류 전체가 인간의 노동과 수고를 덜어주는 AI의 성과와 가능성에 환호하는 것 같습니다. 그렇지만, 우리는 아직 AI의 능력과 심지어 부작용을 충분히 경험하지 못한 것 같습니다.

그 첫 번째 사건은 최근 미국과 이란 전쟁 중에 특정 지역이 폭격당했다는 뉴스 속보가 광범위하게 유포되고 있습니다. 아나운서의 긴박한 목소리와 자막까지 완벽했습니다. 그렇지만, 확인 결과 이는 AI가 조작해 만든 허위정보였습니다. AI를 활용하면 손쉽게 진짜처럼 완벽한 가짜 뉴스가 만들어질 수 있습니다.

두 번째 사건은 세계 최고 권위의 인공지능 학회에서 AI가 만들어낸 가짜 논문 인용이 대거 발견되었습니다. AI 탐지 기업인 GPT제로에 따르면 최근 신경정보처리시스템학회 2025에 채택된 최소 51개 논문에서 100건 이상의 ‘환각 인용’을 발견했다고 발표했습니다. 환각 인용이란 AI가 존재하지 않는 논문 제목, 가짜 저자명 등을 그럴듯하게 만들어 인용한 것을 말합니다. AI를 논문작성에 활용할 때 AI는 학문적 진실만을 말하지 않을 뿐만 아니라 논문심사위원도 인용 논문의 존재 여부를 모두 판별할 수 없다는 점을 확인할 수 있습니다.

세 번째 사건은 의료 광고의 예입니다. 유튜브 영상에서 단정한 용모와 수려한 말투를 지닌 중년남성이 어린이 영양제를 소개하는데 영상 자막에서 이 남성을 S대 출신 소아과 전문의로 소개했습니다. 확인 결과 소아과 전문의는 AI가 만든 가짜 의사였습니다.

결국 AI발 허위·과장 광고가 급속히 유포되고 노년층을 중심으로 피해가 확산하고 있습니다. 이런 부류의 영상을 AI로 만든 양산형 콘텐츠, 즉 ‘AI슬롭(찌꺼기)’라고 말합니다. AI가 만든 진짜처럼 보이는 가짜 영상을 뜻합니다.

특히 한국 AI슬롭 영상이 가장 많이 소비되는 국가로 조사되고 있습니다. 다시 말해서 허위정보나 가짜 뉴스가 확산하기 쉬운 환경이라는 뜻도 됩니다.

AI를 활용한 기술 발전은 매우 빠른 속도로 확산하지만 각 국가의 대응과 법제화는 답답할 만큼 더디게 진행되고 있습니다. 대표적으로 올해부터 시행된 AI 기본법을 보면 AI가 제작한 콘텐츠(딥페이크 등)의 경우 이를 알리는 워터마크(식별 무늬) 표시를 의무화하고 있습니다.

또한 2026년 7월 시행 예정인 정보통신망법을 보면 정보통신 서비스 제공자는 불법 정보와 허위 조작정보를 신고할 수 있는 자율규제 가이드라인을 통해 삭제와 계정의 해지, 수익화 제한 등 다양한 수단을 통해 유해 정보의 유통을 제한할 수 있습니다.

이러한 노력에도 워터마크를 표시하지 않거나 타인에게 끼치는 손해 확인이 불분명한 경우 AI찌꺼기 및 조작된 콘텐츠 확산을 막을 수 없습니다. 과거에는 어떤 콘텐츠든 진짜로 추정되고, 조작되었다는 증가가 있을 때 가짜로 판명되었습니다.

그런데 이제는 사진을 보여주면 “AI생성 이미지인가?”, 글을 보여주면 “AI가 대신 쓴 것 아닌가?”라는 의심을 삽니다. 이렇듯 우리는 의심이 기본값이 되는 사회를 한 번도 경험하지 못했습니다. 앞으로는 진짜가 스스로 가짜가 아님을 증명해야 하는, 뒤집힌 세계를 살아가야 할지도 모릅니다.

/이건혁 국립창원대 미디어커뮤니케이션학과 교수