"엄마, 나 지금 사고 났어" - 전화 속 그 목소리, 진짜 내 아이가 아닐 수 있다
이미지=AI로 제작된 이미지/최정범 기자
(서울=국제뉴스) 최정범 기자 = 지난 회차, 'AI가 만든 음악'에서는 AI가 창작의 마지막 영역까지 넘어온 현실을 살펴봤다. 텍스트, 이미지, 영상, 음악 - AI가 만들어낼 수 있는 것들이 완성됐다. 이번 회차에서는 그 이면을 다룬다. 창작의 도구가 된 AI가 동시에 사기와 기만의 도구가 되고 있는 현실. 그것은 이미 우리 일상 깊숙이 들어와 있다.
지난해 60대 주부 A씨는 아들로부터 전화를 받았다. 목소리는 분명히 아들이었다. 말투도, 억양도, 심지어 평소 아들이 쓰는 말버릇까지 똑같았다.
"엄마, 나 교통사고 났어. 합의금이 급하게 필요한데 300만 원만 먼저 보내줘. 나중에 설명할게."
A씨는 의심 없이 송금했다. 아들에게 다시 전화했을 때 비로소 알았다. 아들은 사고가 난 적도 없었고, 전화를 건 적도 없었다.
범인이 사용한 것은 AI 목소리 복제 기술이었다. SNS에 올라온 아들의 영상 몇 개만으로 목소리를 학습시켜 완벽하게 재현했다. 이것은 해외 사례가 아니다. 지금 한국에서 벌어지고 있는 일이다.
AI 사기, 왜 지금 더 위험한가
사기는 오래된 범죄다. 그런데 왜 지금 AI 사기가 더 위험한가.
기존 사기의 한계는 '증거'였다. 가짜 문서는 전문가가 보면 티가 났고, 전화 사기는 목소리가 어색했고, 가짜 사진은 조작 흔적이 남았다. 사람의 직관이 어느 정도 방어막이 됐다.
AI는 그 방어막을 무너뜨렸다. 눈으로 봐도 가짜인지 모르는 영상, 귀로 들어도 구별할 수 없는 목소리, 전문가도 속이는 가짜 문서. 직관이 더 이상 믿을 수 있는 방어 수단이 아닌 시대가 됐다.
12회차에 걸쳐 살펴본 AI의 창작 능력 - 텍스트, 이미지, 영상, 음악을 만드는 능력 - 이 고스란히 범죄 도구로 전용되고 있다. AI가 강력해질수록 AI 사기도 정교해지는 구조다.
지금 실제로 벌어지고 있는 AI 사기 유형
이미지=AI로 제작된 이미지/최정범 기자
유형 1 - 목소리 복제 사기 (보이스피싱 2.0)
앞서 소개한 사례가 대표적이다. SNS, 유튜브, 카카오톡 음성 메시지 등에 올라온 음성 데이터 몇 분이면 그 사람의 목소리를 AI로 복제할 수 있다. 가족을 사칭하는 긴급 송금 요청, 지인을 사칭한 투자 권유, 기업 CEO를 사칭한 직원 대상 사기가 이미 국내외에서 발생하고 있다.
특히 위험한 것은 실시간 목소리 변조 기술이다. 과거에는 미리 녹음된 음성을 재생하는 방식이었다면, 지금은 통화 중 실시간으로 목소리를 바꾸는 것이 가능하다. 통화하면서 자연스럽게 질문에 답하고, 대화를 이어가는 것이 AI로 가능해진 것이다.
유형 2 - 딥페이크 영상 사기
지인이나 유명인의 얼굴을 합성한 영상으로 신뢰를 얻은 뒤 사기를 치는 방식이다. 국내에서는 유명 투자자나 연예인의 얼굴을 합성한 가짜 투자 권유 영상이 유튜브와 SNS에 유포된 사례가 잇따르고 있다. 영상 속 인물이 "이 투자처를 추천한다"고 말하지만, 실제로 그 사람은 해당 영상을 만든 적이 없다.
기업 대상 사기도 있다. 해외에서는 CFO(최고재무책임자)의 딥페이크 영상을 이용해 직원에게 수십억 원의 송금을 지시한 사례가 실제로 발생했다. 화상회의에서 CFO처럼 보이고, CFO처럼 말하는 AI가 직원을 속인 것이다.
유형 3 - AI 생성 가짜 문서·증거
AI는 이제 그럴듯한 계약서, 재직증명서, 금융 거래 내역서를 만들어낼 수 있다. 대출 사기, 전세 사기, 취업 서류 위조 등에 AI 생성 문서가 활용되는 사례가 늘고 있다. 도장과 서명까지 자연스럽게 합성되기 때문에 육안으로 구별하기 어렵다.
법원 제출 증거를 AI로 조작하는 사례도 해외에서 보고되고 있다. 사진, 영상, 문자 메시지 등 디지털 증거의 신뢰성 자체가 흔들리고 있다.
유형 4 - AI 피싱 메시지
기존 피싱 메시지는 어색한 문법과 번역투 표현으로 쉽게 구별할 수 있었다. AI가 작성한 피싱 메시지는 다르다. 자연스러운 한국어, 수신자의 이름과 개인 정보를 포함한 맞춤형 내용, 실제 기업의 이메일 형식과 구별하기 어려운 완성도를 갖췄다.
"고객님의 계좌에서 이상 거래가 감지됐습니다. 24시간 내에 확인하지 않으면 계좌가 정지됩니다"라는 내용의 메시지가 실제 은행 이메일과 거의 동일한 형식으로 날아온다. AI가 수천 명에게 개인화된 피싱 메시지를 동시에 보내는 것이 기술적으로 가능해졌다.
유형 5 - AI 로맨스 스캠
온라인에서 만난 상대방이 사실은 AI일 수 있다. 매력적인 프로필 사진은 AI가 생성한 이미지고, 주고받는 메시지는 AI가 작성하며, 심지어 영상통화 속 얼굴도 딥페이크인 경우가 해외에서 보고되고 있다. 수개월에 걸쳐 신뢰를 쌓은 뒤 투자 권유나 긴급 자금 요청으로 이어지는 수법이다. AI가 24시간 쉬지 않고 수백 명의 피해자와 동시에 '연애'를 진행할 수 있다는 점에서 기존 로맨스 스캠보다 훨씬 위험하다.
가짜 뉴스·가짜 콘텐츠의 확산
사기를 넘어 사회 전체를 흔드는 문제도 있다. AI가 만든 가짜 뉴스와 가짜 콘텐츠의 확산이다.
선거를 앞두고 특정 후보의 딥페이크 영상이 유포되거나, 실제로 하지 않은 발언을 한 것처럼 조작한 영상이 퍼지는 일이 이미 세계 곳곳에서 벌어졌다. 한국도 예외가 아니다. 유명인의 얼굴을 합성한 가짜 광고, 실제 뉴스처럼 만들어진 AI 생성 기사가 카카오톡과 SNS를 통해 빠르게 퍼진다.
문제는 속도다. 가짜 콘텐츠가 퍼지는 속도는 팩트체크가 이뤄지는 속도보다 훨씬 빠르다. 한 번 퍼진 가짜 정보는 정정 보도가 나와도 이미 수십만 명의 머릿속에 남아 있다.
나를 지키는 실전 방어법
이미지=AI로 제작된 이미지/최정범 기자
AI 사기로부터 나와 가족을 지키기 위해 지금 당장 실천할 수 있는 방법들이 있다.
가족 간 '비밀 코드'를 만들어라. 가장 현실적이고 효과적인 방법이다. AI가 목소리를 복제해도 모를 수 있는 가족만의 암호 질문을 정해두는 것이다. "우리 집 강아지 이름이 뭐야?", "엄마 생일 선물로 뭘 드렸어?" 같은 AI가 알 수 없는 개인적인 질문이 효과적이다. 긴급 상황이라며 송금을 요청하는 전화가 오면, 반드시 이 코드 질문으로 확인하는 습관을 들이자.
영상통화로 본인 확인을 요청하라.
목소리만으로는 더 이상 믿을 수 없다. 돈과 관련된 요청이 들어오면 반드시 영상통화로 전환해 본인 확인을 요청하라. 딥페이크 영상통화도 가능하지만, 즉흥적인 동작 요청(손을 흔들어줘, 뒤를 돌아봐)에는 아직 실시간 대응이 어렵다.
송금 전 반드시 다른 경로로 확인하라.
카카오톡이나 전화로 긴급 송금 요청이 왔다면, 그 사람의 다른 번호나 직접 만남을 통해 반드시 확인하라. 긴급하다는 압박감이 들수록 오히려 한 번 더 멈춰야 한다. 진짜 긴급 상황이라면 몇 분의 확인 과정을 기다릴 수 있다.
딥페이크 의심 신호를 알아두자.
AI 생성 영상에는 아직 완벽하지 않은 부분이 있다. 눈 깜빡임이 부자연스럽거나 없는 경우, 입술 움직임과 소리가 미묘하게 어긋나는 경우, 얼굴 경계선이나 머리카락이 흐릿한 경우, 귀 모양이 좌우 다른 경우가 대표적인 신호다. 충격적이거나 자극적인 영상일수록 공유하기 전에 한 번 더 의심하는 습관이 필요하다.
개인 정보와 목소리 노출을 줄여라.
SNS에 올리는 영상과 음성 데이터가 목소리 복제의 재료가 될 수 있다. 비공개 계정 설정, 불필요한 개인 정보 노출 최소화가 현실적인 예방책이다. 특히 자녀의 목소리와 얼굴이 담긴 영상을 공개적으로 올리는 것은 신중하게 생각해볼 필요가 있다.
AI 탐지 도구를 활용하라.
의심스러운 영상이나 이미지를 확인할 수 있는 AI 탐지 도구들이 있다. 구글의 SynthID, 딥페이크 탐지 서비스들이 있으며 국내에서도 관련 서비스가 개발되고 있다. 완벽하지는 않지만 의심스러운 콘텐츠를 한 번 더 검증하는 습관이 중요하다.
한국 법률 현황... 어디까지 처벌받나
이미지=AI로 제작된 이미지/최정범 기자
AI 사기와 가짜 콘텐츠에 관한 법적 대응이 빠르게 구체화되고 있다. 분야별로 현재 시행 중인 법률과 처벌 수위를 정확하게 짚어본다.
딥페이크 성범죄 - 소지·시청만 해도 처벌된다
2024년 9월 개정된 성폭력범죄의 처벌 등에 관한 특례법에 따라 처벌 수위가 대폭 강화됐다. 성적 합성물을 편집·반포할 경우 기존 5년 이하에서 7년 이하의 징역으로 법정형이 높아졌다. 영리 목적으로 정보통신망을 이용해 유포하면 3년 이상의 유기징역에 처해질 수 있어 처벌이 한층 무거워졌다.
가장 주목할 변화는 소지·시청 처벌 신설이다. 과거에는 제작자와 유포자만 처벌 대상이었다. 이제는 딥페이크 성범죄물을 소지하거나 구입·저장하고 시청하는 것만으로도 3년 이하의 징역 또는 3천만 원 이하의 벌금에 처해진다. "보기만 했다"는 변명이 더 이상 통하지 않는다.
선거 개입 - 이미 법이 시행 중이다
선거 관련 딥페이크 규제는 "정비 중"이 아니라 이미 시행 중이다. 공직선거법 개정으로 누구든지 선거일 전 90일부터 선거일까지 선거운동을 위해 AI 기술로 만든 딥페이크 영상을 제작·편집·유포·게시하는 것이 금지됐다. 이를 위반하면 7년 이하의 징역 또는 1천만 원 이상 5천만 원 이하의 벌금에 처해진다. SNS에서 자주 접하는 정치인의 가짜 영상을 단순히 공유하는 행위도 처벌 대상이 될 수 있다는 점을 알아야 한다.
명예훼손 - 현행법으로 이미 처벌 가능하다
딥페이크를 이용한 명예훼손은 이미 정보통신망법 제70조에 의해 처벌된다. 비방 목적으로 허위 사실을 담은 콘텐츠를 유포할 경우 7년 이하의 징역 또는 5천만 원 이하의 벌금에 처해질 수 있다. AI가 만들었다는 사실이 면죄부가 되지 않는다. 유포한 사람이 책임을 진다.
AI 금융 사기 - 처벌은 가능하나 전용 법률은 미비
목소리 복제를 이용한 보이스피싱과 딥페이크 영상을 활용한 금융 사기는 현행 형법상 사기죄와 전기통신금융사기 특별법으로 처벌할 수 있다. 그러나 AI 기술 활용이라는 특수성을 반영한 가중 처벌 규정이나 전용 특별법은 아직 국회 논의 단계에 있다. 피해는 현실인데 법은 아직 따라가지 못하는 부분이 존재한다. 피해를 입었다면 즉시 거래 은행에 연락해 지급정지를 요청하는 것이 가장 먼저 해야 할 핵심 대응이다. 이후 경찰청(112)과 금융감독원(1332)에 신고해 피해 구제 절차를 밟아야 한다.
기술은 중립이지만 피해는 중립이 아니다
이미지=AI로 제작된 이미지/최정범 기자
이 연재를 통해 AI의 창작 능력을 긍정적으로 살펴왔다. 이미지를 만들고, 영상을 만들고, 음악을 만드는 AI의 능력은 분명히 기회다.
그러나 같은 기술이 사기와 기만의 도구로 쓰일 때 피해는 현실이고 구체적이다. 노인이 평생 모은 돈을 잃고, 기업이 수억 원의 손실을 입고, 무고한 사람의 얼굴이 가짜 영상에 합성된다. 기술은 중립이지만 그 피해는 결코 중립이 아니다.
AI 시대의 미디어 리터러시는 이제 '보이는 것을 의심하는 능력'까지 포함해야 한다. 눈으로 보고, 귀로 들어도 한 번 더 확인하는 습관. 그것이 AI 사기 시대를 살아가는 가장 현실적인 방어막이다.
피해를 입었다면, 즉시 다음과 같이!
AI 사기 피해를 입었거나 의심되는 상황이라면 즉시 다음 기관에 신고하자.
경찰청 사이버범죄 신고 시스템, 금융감독원 보이스피싱 신고센터(1332), 한국인터넷진흥원 불법스팸대응센터(118)에 신고할 수 있다. 송금 피해가 발생했다면 거래 은행에 즉시 연락해 지급정지를 요청하는 것이 가장 먼저 해야 할 일이다.
의심하는 것이 예의 없는 게 아니다
가족의 목소리를 의심하는 것이 불효처럼 느껴질 수 있다. 지인의 메시지를 확인하는 것이 무례하게 느껴질 수 있다. 그러나 지금은 그 의심이 나와 가족을 지키는 가장 중요한 행동이다.
돈을 요청하는 연락이 왔을 때 "잠깐, 한 번 더 확인할게"라고 말하는 것은 예의 없는 것이 아니다. 그것이 AI 사기 시대에 서로를 지키는 방법이다.
보이는 것을 믿지 말고, 들리는 것을 의심하고, 확인한 뒤에 행동하라. 이 세 가지가 AI 사기 시대를 살아가는 가장 단단한 방패다.
댓글
0