[AI픽] AI 캐리커처 유행, 신원 사칭·피싱 위험 키운다

카스퍼스키 "개인정보 입력, 범죄자에 맞춤 데이터 제공"

딥페이크 (PG)

[강민지 제작] 일러스트

(서울=연합뉴스) 권하영 기자 = 인공지능(AI)을 활용해 자신을 닮은 캐리커처나 애니메이션을 만드는 유행이 개인 정보를 노출시켜 신원 사칭과 같은 디지털 사기 위험을 키울 수 있다는 경고가 나왔다.

글로벌 사이버 보안 기업 카스퍼스키는 AI 캐리커처 제작 도구에 개인의 맥락 정보를 공유하는 행위가 사회공학 공격을 초래할 수 있다고 14일 밝혔다.

최근 소셜 미디어에서는 자신의 사진과 함께 직업, 일상 등 정보를 입력해 'AI가 알고 있는 나에 대한 모든 것'을 기반으로 캐리커처 또는 일러스트를 생성하는 트렌드가 확산하고 있다.

카스퍼스키는 이러한 행위가 단순한 유희를 넘어 사이버 범죄자에게 맞춤형 사기 메시지를 생성할 수 있는 상세한 데이터를 제공하는 격이라고 지적했다.

사용자가 입력한 프로필과 직업적 배경, 활동 지역 등의 정보가 사기꾼들이 신뢰를 얻기 위한 도구로 악용될 수 있다는 설명이다.

아드리안 히아 카스퍼스키 아시아태평양 총괄 사장은 "이러한 디지털 초상화는 위험한 지도이자 사이버 범죄자에게 자발적인 브리핑을 하는 것과 같다"며 "이는 매우 신중한 사용자의 방어조차 우회할 수 있다"고 경고했다.

카스퍼스키는 디지털 사기 위험을 줄이기 위해서는 AI 도구 사용 시 주의가 필요하다고 조언했다.

정보를 기입하는 프롬프트에 본명이나 직책, 주소, 일정 등 식별 가능한 데이터를 입력해선 안 되며, 로고나 자격 증명, 문서, 차량 번호판, 특정 건물 외관 등 위치나 소속 기관을 추측할 수 있는 요소가 포함된 사진을 올리지 말아야 한다는 설명이다.

또한 플랫폼 사용 전 개인정보 처리 방침과 권한 설정을 반드시 확인할 것을 권고했다. 특히 생성된 콘텐츠의 보관 기간과 데이터 활용 목적을 살펴야 한다고 강조했다.