구글 제미나이 [로이터=연합뉴스 자료사진]
구글이 위성·항공사진 서비스인 구글 어스(Google Earth)에 생성형
인공지능(AI) 이미지 편집 기능을 도입했다가 허위 정보 확산 우려가 커지자 하루 만에 서비스를 되돌렸다. AI 기술과 정보 신뢰성 사이의 균형이 글로벌 빅테크의 새로운 과제로 떠오르고 있다는 분석이다.
1일 영국 파이낸셜타임스(FT)와 AFP통신 등에 따르면 구글은 지난 30일(현지시간) 구글 어스에 AI 이미지 생성 모델 ‘나노 바나나 2’(Nano Banana 2)를 통합했다고 발표했다. 이용자는 실제 위성·항공·3D 지도 데이터를 기반으로 특정 지역을 확대한 뒤 AI를 활용해 다양한 이미지를 생성할 수 있었다.
구글은 역사적 장면을 시각화하거나 부동산 개발 계획, 건설 프로젝트 등을 사전에 구현하는 등 활용 가능성을 강조했다. 브라이언 호로위츠 구글 어스 제품관리자(PM)는 “역사를 시각적으로 복원하고 건설 계획을 보다 직관적으로 표현할 수 있다”고 설명했다.
하지만 공개출처정보(OSINT) 전문가와 허위정보 연구자들은 실제 지형과 건물 위에 그럴듯한 허위 장면을 덧씌울 수 있다는 점에서 심각한 위험성을 제기했다. 구글 어스는 그동안 전쟁과 재난, 군사시설 등 민감한 현장을 검증하는 기준 자료로 활용돼 왔기 때문이다.
실제로 X(옛 트위터)에는 해당 기능으로 만든 것으로 추정되는 가자지구 폭격 흔적과 이란 핵시설, 암스테르담 차량 사고 등의 가짜 이미지가 게시됐다. AFP도 자체 실험을 통해 파리 폭발 현장과 러시아 폭탄 분화구, 시리아 무장단체 훈련장 등을 연상시키는 허위 위성 이미지를 손쉽게 생성할 수 있었다고 전했다.
논란이 확산되자 구글은 기능 공개 24시간도 채 지나지 않아 서비스를 철회했다. 호로위츠 PM은 “구글 어스가 신뢰할 수 있는 지리정보 플랫폼이라는 이용자들의 기대를 잘 알고 있다”며 “더 강력한 안전장치를 마련할 때까지 기능을 롤백하기로 했다”고 밝혔다.
AI로 생성된 이미지는 워터마크가 표시되고 다른 이용자의 기본 지도에는 노출되지 않았지만, 전문가들은 이 정도 장치만으로는 허위정보 유통을 막기 어렵다고 지적했다. 샘 스톡웰 영국 앨런 튜링 연구소 선임연구원은 FT에 “가짜를 검증하는 기준 플랫폼 자체에 생성형 AI를 결합하는 것은 정보 신뢰를 훼손할 수 있다”고 말했다.
로이터통신은 메타 역시 최근 공개 인스타그램 사진을 활용하는 AI 이미지 생성 기능을 선보였다가 개인정보 보호 논란으로 중단한 바 있다며, 생성형 AI 시대에는 기술 혁신 못지않게 정보의 신뢰성을 확보하는 장치가 핵심 과제로 떠오르고 있다고 전했다.
이규화 대기자(david@dt.co.kr)
댓글
0