화염에 휩싸인 부르즈 칼리파?···이란 전쟁 ‘AI 조작 영상’ 확산

포토샵·짜깁기 수준을 넘어선 ‘AI발 가짜 뉴스’
‘손가락 개수 세어보기’ 등 방법으로는 AI 식별 어려워
전문가 “분쟁 상황에서 SNS 정보 경계해야”미국·이스라엘과 이란의 전쟁 상황을 인공지능(AI)으로 꾸며낸 영상 및 이미지가 SNS에서 확산하고 있다.

CNN·AP통신은 11일(현지시간) 최근 생성형 AI로 조작된 전쟁 관련 사진 및 영상이 과거보다 훨씬 정교해지고 있다고 보도했다. 과거 포토샵으로 사진 및 영상을 짜깁기했던 것과 달리 AI 생성 콘텐츠는 자연스럽고 선명하다는 것이다.

지난달 28일 미·이스라엘의 이란 공습이 시작된 이후 SNS에는 이란의 미사일 공격을 받은 이스라엘 수도 텔아비브 도심에 검은 화염 기둥이 치솟는 모습, 탈출하려는 사람들로 아수라장이 된 텔아비브 공항의 모습 등이 담긴 영상이 올라왔다. 이들 영상은 수천만건의 조회수를 기록했지만 AI로 조작된 가짜 영상이라고 CNN은 전했다.

이란의 공격에 아수라장이 된 이스라엘 수도 텔아비브 공항의 모습이 담긴 영상. 이 영상은 인공지능으로 조작된 것으로 판명 났다. 엑스 갈무리

이란의 공격으로 아랍에리미트연합과 바레인의 고층 건물이 화염에 휩싸인 모습이 담긴 영상도 거짓으로 판정 났다. AP통신은 영상 속 차량 두 대가 한 대로 합쳐 보이는 등 “AI 환각 현상”이 포착된다고 전했다.

미·이스라엘의 공습에 사망한 이란 최고 지도자 아야톨라 알리 하메네이가 건물 잔해 아래 깔린 사진이나 이라크 주둔 미군 기지가 불타는 장면이 담긴 사진 등도 거짓으로 확인됐다.

아랍에미리트 두바이에 있는 고층 건물 부르즈 칼리파가 화염에 휩싸인 모습. 이 영상은 인공지능으로 조작된 것으로 판명 났다. 엑스 갈무리

바레인에 있는 고층 건물이 화염에 휩싸인 모습. 이 영상은 인공지능으로 조작된 것으로 판명 났다. 엑스 갈무리

영국 공영방송 BBC에서 사실확인 업무를 담당하고 있는 샤얀 사르다리자데 선임기자는 CNN 인터뷰에서 “지난 1년간 생성형 AI의 접근성이 크게 높아졌다”라며 “이제는 전황에 관해 그럴듯한 영상을 만들어내는 것이 가능해졌다”고 지적했다.

진실과 거짓을 구분하기는 더욱 어려워졌다. 미국의 저명한 디지털 포렌식 전문가인 하니 파리드 미국 캘리포니아대학 버클리캠퍼스 정보대학 교수는 CNN 인터뷰에서 “이제는 불과 몇 달 전의 AI 식별 요령조차 쓸모가 없다”고 말했다. 인물의 손가락 개수 세기 등 방법이 AI 영상 식별법으로 알려졌으나, 최신 AI 영상에서는 이런 환각 현상이 드물다는 설명이다.

파리드 교수는 “세계적 분쟁이 발발한 상황에서 SNS는 정보를 얻기 적합한 곳이 아니다”라며 신뢰할 만한 언론 매체를 확인해야 한다고 했다.