딥페이크 성범죄 1년새 44% 증가
2024년 1202건→작년 1737건
맨눈으론 구분 못할 정도로 발전
일반인 대상 성착취물 피해 확산
게티이미지뱅크
‘딥페이크’ 기술이 무서운 속도로 발전하면서 연예인은 물론 일반인들까지 성범죄에 무차별적으로 노출되는 사례가 속출하고 있다. 아이돌 그룹 블랙핑크 제니가 신체 일부를 노출한 것처럼 보이는 영상이 최근 SNS를 통해 퍼지면서 진위를 놓고 갑론을박이 벌어진 가운데, 5분 만에 뚝딱 만들 수 있는 데다 사람의 눈으로는 판별이 어려운 수준까지 발전하면서 학교·직장 등 일선 현장의 피해도 잇따르고 있다.
21일 문화일보가 직접 가정용 PC에 설치된 생성형 인공지능(AI) 프로그램에 특정 인물 사진을 넣고 “이 사람이 일기 예보하는 영상을 만들어 달라”고 입력하자 불과 5분 만에 30초 분량의 영상이 생성됐다. 고사양의 장비나 전문 영상 편집 기술이 없는 상태에서도 일반 PC만으로 딥페이크 영상을 손쉽게 제작할 수 있는 셈이다.
딥페이크 기술을 활용한 영상은 불과 1∼2년 전까지만 해도 자세히 들여다보면 조작 흔적을 손쉽게 찾을 수 있었다. 얼굴과 몸의 경계가 어색하거나 손가락 모양이 일그러지고, 빛과 그림자의 방향이 맞지 않는 식이었다. 하지만 직접 제작해 본 딥페이크 영상은 피부 질감과 머리카락 움직임, 복잡한 신체 동작까지 자연스럽게 구현해 가짜 영상이라는 사실을 눈으로 인지하기 쉽지 않았다.
문제는 이런 딥페이크 기술을 활용한 각종 성범죄가 유명인은 물론 일반인들을 상대로도 무차별적으로 발생하고 있다는 점이다. 실제 검색창에 관련 키워드를 입력하고 몇 차례 링크를 따라가자 불과 수십 초 만에 연예인뿐 아니라 일반인의 얼굴을 합성한 성착취물을 공유한다고 홍보하는 텔레그램 계정과 채널 등이 잇따라 나타났다. 실제 접속한 일부 사이트에서는 유명인은 물론 일반인의 얼굴을 합성한 성착취물이 다수 공유되고 있었다.
학교·직장 등 일상에서도 부작용이 속출하고 있다. 지난 18일에는 한 고등학생이 또래 여학생 20여 명의 사진을 이용해 딥페이크 음란물을 제작한 뒤 SNS에 게시한 혐의로 검찰에 송치되기도 했다.
경찰청에 따르면 딥페이크 성범죄는 2024년 1202건에서 지난해 1737건으로 불과 1년 새 44.5%나 증가했다. 윤인수 카이스트 전기·전자공학부 교수는 “생성 기술이 발전할수록 탐지도 점점 어려워질 것”이라며 “결국 불법 영상이 올라오면 빠르게 삭제하고 최초 유포자를 추적해 처벌하는 방향으로 갈 수밖에 없다”고 했다.
댓글
0