기존의 딥페이크를 한 단계 초월한 ‘AI 페이스 스왑’ 기술로 합성한 가수 장원영./@ubcaiman
[마이데일리 = 서기찬 기자] 최근 소셜미디어를 중심으로 국내 최정상급 아이돌과 배우들의 외형을 정교하게 복제한 영상들이 대거 유포되며 큰 파장이 일고 있다.
단순한 얼굴 합성을 넘어 인간의 미세한 근육 움직임까지 구현하는 수준에 이르자, 기술적 진보에 대한 경탄보다는 범죄 악용을 우려하는 목소리가 커지고 있다.
손가락 끝에서 탄생하는 '가짜 스타'
논란의 중심에 선 한 소셜미디어 채널은 지난달 개설된 이후 벌써 60여 개의 게시물을 쏟아냈다. 영상의 내용은 가히 충격적이다.
화면 속 남성이 손가락으로 신호를 보내는 순간, 그의 얼굴은 제니, 장원영, 아이유, 카리나, 고윤정 등 유명 연예인의 모습으로 순식간에 탈바꿈했다. 이는 기존의 딥페이크를 한 단계 초월한 ‘AI 페이스 스왑’ 기술이 적용된 결과다.
단순히 이목구비를 덧씌우는 조잡한 방식이 아니라, 윙크를 하거나 입술을 씰룩이는 등 특유의 표정과 몸짓까지 실제와 구별하기 힘들 정도로 완벽하게 구현해냈다.
계정 운영자는 “곧 출시할 앱을 팔로우해달라”며 기술력을 과시하고 있으나, 전문가들은 이러한 고도화된 기술이 언제든 디지털 성범죄나 사기 등에 악용될 수 있다고 경고했다.
기존의 딥페이크를 한 단계 초월한 ‘AI 페이스 스왑’ 기술로 합성한 아이유(사진 위)와 블랙핑크 지수./@ubcaiman
위장 취업부터 안보 위협까지... 현실화된 공포
이러한 고성능 합성 기술은 이미 전 세계적인 보안 위협으로 부상했다.
최근 북한 IT 인력들이 글로벌 빅테크 기업에 위장 취업하는 과정에서 이 기술을 화상 면접에 적극 활용해 신분을 숨긴 사례가 대표적이다.
특히 K-콘텐츠의 폭발적 인기로 인해 한국 연예인들이 전 세계 딥페이크 범죄의 '주 타깃'이 되고 있다는 점은 심각한 대목이다.
미국 보안업체 시큐리티 히어로는 전 세계 딥페이크 피해자의 절반 이상이 한국 연예인이라는 충격적인 보고서를 내놓았다. 이에 영국 BBC는 “한국이 딥페이크 비상사태에 직면했다”고 직접적으로 언급하며 사태의 엄중함을 전했다.
정부, '전역·국소 분석' 이중 방어막 가동
사태가 급박하게 돌아가자 정부도 인공지능을 이용한 '창'을 막기 위해 더 강력한 '방패'를 꺼내 들었다.
행정안전부와 국립과학수사연구원이 공동 개발한 ‘AI 딥페이크 탐지 모델’이 그 주인공이다. 이 모델은 두 가지 정밀 분석 기술을 동시에 가동해 조작 여부를 가려낸다.
우선 영상의 전체적인 흐름과 프레임 간의 인과관계를 대조하는 '전역 분석'을 통해 영상의 일관성을 검증한다. 이와 동시에 얼굴의 미세한 부위나 특정 지점에서 발생하는 미세한 조작 흔적을 잡아내는 '국소 분석'을 병행함으로써 탐지 정확도를 획기적으로 높였다.
정부는 이 고도화된 탐지 시스템을 다가오는 지방선거에서 가짜 뉴스 확산을 막는 데 우선 투입할 예정이다. 아울러 수사 기관과의 협력을 통해 AI 딥페이크 분석 모델의 활용 범위를 디지털 성범죄 및 금융 사기 등 민생 범죄 전반으로 지속 확대해 나갈 방침이다.
댓글
0