[MS투데이] 소셜미디어에서 인공지능(AI)을 활용해 자신의 얼굴을 닮은 캐리커처나 애니메이션 이미지를 만드는 트렌드가 빠르게 확산되고 있다. 이용자들은 사진과 함께 직업, 일상, 취미, 가족관계 등 다양한 정보를 입력해 ‘AI가 알고 있는 나’를 시각화한 결과물을 공유한다.
겉으로 보기에는 창의적이고 재미있는 놀이처럼 보이지만, 보안 업계에서는 이 과정이 개인 정보를 구조적으로 노출시키며 신원 사칭과 사회공학 기반 사기 위험을 키울 수 있다고 경고하고 있다.
글로벌 사이버 보안 기업 카스퍼스키는 AI 캐리커처 제작 도구에 맥락 정보까지 상세히 입력하는 행위가 범죄자에게 정교한 디지털 프로필을 제공하는 것과 다름없다고 지적했다.
“맥락 정보가 가장 위험”…맞춤형 사기 정교화
AI 캐리커처는 단순한 이미지 필터와 다르다. 보다 정확한 결과물을 얻기 위해 이용자들은 회사명, 직책, 거주 도시, 자주 가는 장소, 취미, 가족 구성원 정보 등 다양한 데이터를 프롬프트에 입력한다. 일부는 회사 로고가 보이는 사진이나 사무실 내부, 차량 번호판, 특정 건물 외관이 담긴 이미지까지 업로드한다.
이러한 정보가 결합되면 개인의 습관, 인간관계, 활동 반경, 직무 내용이 비교적 정밀하게 드러난다. 사이버 범죄자는 이를 활용해 피해자의 직장 상사나 동료, 금융기관, 가족을 사칭하는 맞춤형 피싱 메시지를 설계할 수 있다.
예를 들어 실제 직책과 프로젝트 내용을 언급하거나, 가족 이름을 포함한 긴급 상황을 꾸며 접근할 경우 신뢰도가 크게 높아진다. 기존의 무작위 피싱과 달리, 맥락이 포함된 사기는 방어가 훨씬 어렵다는 분석이다.
국내 보안 전문가는 “이용자가 재미를 위해 입력한 정보들이 공격자에게는 완성도 높은 ‘사회공학 설계도’가 된다”며 “개인화된 사기는 일반적인 보안 경고만으로는 걸러내기 힘들다”고 말했다.
저장되는 데이터, 생각보다 많다
위험 요소는 입력 정보에만 그치지 않는다. 일부 AI 서비스는 이미지 파일뿐 아니라 사용자가 작성한 텍스트 명령, 생성 기록, IP 주소, 기기 정보, 상호작용 패턴 등 기술적 데이터를 함께 저장할 수 있다.
이 데이터는 서비스 개선이나 AI 모델 학습을 위해 일정 기간 보관될 수 있으며, 이용자가 예상하는 것보다 오래 남아 있을 가능성도 있다. 콘텐츠를 삭제했다고 생각해도 서버 측 로그나 학습 데이터에 흔적이 남을 수 있다는 점이 문제로 지적된다.
특히 AI 활용도가 높은 아시아태평양 지역에서는 기술 이해도 격차로 인해 이러한 데이터 처리 구조를 충분히 인지하지 못한 채 서비스를 사용하는 사례가 많다는 분석도 나온다.
신원 사칭·가족 대상 감정 사기까지
카스퍼스키는 미성년자 사진이나 가족 관련 정보 공유에 대해서도 각별한 주의를 당부했다. 가족 구성원의 이름, 학교, 직장, 일상 일정 등이 노출될 경우, 이를 활용한 ‘감정 기반 사기’가 가능해진다는 설명이다.
범죄자는 부모를 사칭해 자녀에게 접근하거나, 자녀를 사칭해 부모에게 긴급 송금을 요구하는 방식으로 범행을 시도할 수 있다. 개인이 공개한 정보가 많을수록 시나리오는 더욱 정교해진다.
어떻게 대비해야 하나
전문가들은 AI 캐리커처를 완전히 금지하기보다는, 입력 정보 최소화와 데이터 관리 인식 개선이 필요하다고 조언한다.
우선 프롬프트에 본명, 회사명, 직책, 주소, 일정, 구체적 위치 정보 등 식별 가능한 데이터를 입력하지 않는 것이 기본 원칙이다. 로고, 자격증, 문서, 차량 번호판, 특정 건물 외관 등 소속이나 위치를 유추할 수 있는 요소가 포함된 사진도 업로드를 자제해야 한다.
또한 서비스 이용 전 개인정보 처리방침을 확인하고, 데이터 보관 기간과 활용 목적을 살펴야 한다. 불필요한 권한 요청은 거부하고, 계정 보안 설정을 강화하는 것도 필요하다.
“디지털 놀이도 개인정보 관리의 연장선”
정보보호 정책을 연구하는 전문가는 “AI 기반 놀이 문화가 확산될수록 개인정보 보호는 선택이 아니라 기본 역량이 된다”며 “재미를 위해 입력한 정보도 결국 디지털 자산의 일부라는 인식이 필요하다”고 말했다.
그는 이어 “AI 기술이 발전할수록 범죄자 역시 같은 기술을 활용해 공격을 정교화한다”며 “이용자 스스로 정보 노출 범위를 관리하지 않으면, 기술 혁신이 오히려 새로운 위험 통로가 될 수 있다”고 강조했다.
AI 캐리커처 열풍은 창의적 표현 문화의 한 단면이지만, 그 이면에는 데이터 축적과 맥락 노출이라는 구조적 위험이 존재한다. 디지털 시대의 즐거움은 보안 의식과 함께 갈 때 비로소 안전해질 수 있다.
댓글
0