우리는 이미 속을 준비가 되어 있다 [뉴스룸에서]

플랫폼마다 가짜 영상의 홍수

AI 검증 시스템도 의지도 부족

무방비로 노출되는 이용자들

미국·이란 전쟁을 소재로 다양한 AI 생성 영상이 쏟아지는 가운데, 양탄자를 타고 미군 최첨단 전투기를 공격하는 가짜 영상까지 등장했다. 인스타그램 캡처

영화 'That's AI'에서 공중제비를 도는 젊은이와 여섯 손가락이 드러나는 장면. 유튜브 maximise 화면 캡처

공원에서 한 젊은이가 연속동작으로 공중제비를 돌고 있다. "대단해!" 벤치에서 지켜보던 주인공이 감탄을 연발하자 친구는 "저건 AI로 만든 가짜"라고 핀잔을 준다. 어느새 모여든 구경꾼들도 "저것은 AI"라면서 손가락질에 야유까지 퍼붓기 시작했다. 주인공은 더 이상 못 참겠다는 듯 외쳤다. "여러분, 우리가 정말 이 지경까지 온 건가요? 젊은이의 재능조차 즐길 수 없다니. 정신 차리세요! 저 사람은 '진짜' 재능을 가진 '진짜' 사람입니다." 구경꾼들 표정이 숙연해지던 그때 결정적 증거가 드러나고 만다. 젊은이의 손가락이 여섯 개였다. "거 봐, AI잖아!" 구경꾼들은 다시 의기양양했고 주인공은 멋쩍은 한마디로 태세를 전환했다. "내 평생 저런 건 처음 보네...."

세바스찬 로페즈(Sebastian Lopez) 감독의 2분짜리 단편 영화 'That’s AI'가 유튜브 공개 한 달여 만에 300만 조회수를 기록했다. 감독은 평범함을 뛰어넘는 놀라운 장면을 보면 AI를 먼저 의심하면서도 철저한 검증 없이 '여섯 손가락' 밈에만 의존해 섣불리 판단해버리는 현대인의 안일함을 꼬집는다. 여섯 손가락은 초창기 생성형 AI가 흔하게 범하던 오류다. 지금의 AI는 그때와 비교하기 어려울 만큼 정교해졌지만 사람들은 여전히 여섯 손가락을 들먹이며 AI를 얕잡아 본다.

영화는 손가락 개수로 AI를 검증하는 느슨한 현실을 풍자하고 있지만, 진짜 현실은 영화보다 더 암울하다. 그나마 손가락 개수라도 세면 다행이다. 제대로 된 검증 기술도, 시스템도 갖추지 못한 플랫폼에서 이용자들은 손가락 살펴볼 새도 없이 무차별적으로 AI 생성물에 노출되고 있다. AI 생성물은 마음먹고 들여다보면 허점투성이지만 경계를 늦추는 순간 인지의 허점을 파고들기 때문에 위험하다. SNS에 올라온 신기한 영상 한두 편씩 보다 보면 어느새 온 피드가 AI 영상으로 도배돼 버리고, AI로 이미지나 영상을 만들어보라는 부추김도 날로 치밀해진다. 무방비 상태인 이용자들을 현혹해 조회수를 챙기는 AI 창작자들도 넘친다.

이제는 흔치 않은 자연 현상이나 대형 이슈 때마다 AI 가짜 영상의 '축제'가 열린다. 캄차카반도에 큰 눈이 내린 1월에도 '60년 만의 폭설'이라는 팩트에 힘입어 터무니없는 가짜 영상이 쏟아져 나왔다. 진실 보도를 위해 경계를 늦추지 않는 미디어조차 도처에 널린 AI의 함정을 피하는 건 쉽지 않다. 실제로 일부 언론이 아파트 10층 높이까지 쌓인 눈더미 위에서 아이들이 미끄럼 타는 AI 영상을 보여주면서 'AI로 만든 영상이 아닙니다'라고 소개하기도 했다.

캄차카반도 폭설을 소재로 생성된 AI 영상(왼쪽)과 미국·이란 전쟁을 소재로 생성된 AI 영상. 인스타그램 캡처

미국·이란 전쟁은 'AI의 공습'을 촉발했다. 비현실적인 교전 영상부터 애국심에 기반한 편파 영상, 치밀한 계산에 의해 생성된 심리전용 영상까지, 다양한 가짜 전쟁 영상들이 거침없이 탄생하고 확산했다. 하다 하다, 하늘을 나는 양탄자를 타고 미군의 최첨단 전투기를 쫓아가며 총질을 해대는 황당한 영상까지 등장해 이용자들을 맘껏 조롱했다. 마치 이 영상이 가짜인 건 알아차릴 수 있느냐는 듯. 자신의 사망설을 반박하며 AI가 아니라 진짜라는 의미로 다섯 손가락을 보여주는 네타냐후의 영상은 진짜일까? AI에 속을 대로 속다 보니, 가짜가 진짜 같고 진짜는 더 가짜 같은 세상이 되고 말았다.