[MS투데이] 카카오가 자체 인공지능(AI) 모델에 구글 딥마인드의 디지털 워터마킹 기술을 적용하며 AI 생성 콘텐츠의 투명성 강화에 나섰다. 단순 표시를 넘어, 편집·재가공 이후에도 AI 생성 여부를 식별할 수 있는 ‘비가시적 워터마크’ 체계를 도입한다는 점이 핵심이다.
카카오는 구글 딥마인드와 AI 생성 콘텐츠의 투명성 확보를 위한 기술 파트너십을 체결했다고 20일 밝혔다. 이번 협력은 미국에서 열린 구글의 연례 개발자 행사에서 공개됐다.
올해부터 AI 기본법 시행과 함께 AI 생성물 표시제가 본격화되는 가운데, 카카오는 법적 기준을 넘어선 기술적 대응에 나선 것이다.
‘카나나’에 신스ID 적용…재편집해도 추적 가능
카카오는 자사 AI 모델 ‘카나나’에 구글의 ‘신스ID(SynthID)’를 적용한다. 신스ID는 이미지, 텍스트, 오디오, 영상 등에 사람의 눈과 귀로는 감지할 수 없는 디지털 워터마크를 삽입하는 기술이다. 콘텐츠 품질을 훼손하지 않으면서 AI 생성 여부를 검증할 수 있다는 점에서 주목받고 있다.
특히 생성된 결과물이 편집되거나 일부가 재가공되더라도 AI 생성 흔적을 탐지할 수 있는 것이 특징이다. 이는 단순 로고 삽입 방식과 달리, 삭제나 변형을 통해 쉽게 지워지지 않는 구조다.
카카오는 올해 하반기 이미지 생성 모델 ‘카나나 콜라주’와 영상 생성 모델 ‘카나나 키네마’에 해당 기술을 순차 적용한다. 우선 카카오톡 내 ‘카나나 템플릿’ 기능에 신스ID를 도입한다. 이 기능은 이용자가 채팅방에서 주고받은 이미지를 활용해 짧은 영상을 자동 생성하는 서비스다.
현재는 결과물에 카나나 로고가 표시되지만, 신스ID가 적용되면 영상이 외부에서 편집되더라도 AI 생성 콘텐츠라는 사실을 기술적으로 확인할 수 있게 된다.
글로벌 확산 흐름…AI 신뢰 경쟁 본격화
신스ID는 구글 딥마인드가 개발한 디지털 워터마킹 및 탐지 기술로, 글로벌 빅테크를 중심으로 도입이 확대되고 있다. 카카오는 아시아 기업 가운데 선제적으로 해당 기술을 적용하는 사례로 평가된다.
AI 생성 콘텐츠가 급증하면서 딥페이크, 허위 정보, 조작 영상 등 악용 사례에 대한 우려도 커지고 있다. 이에 따라 AI 기업들은 모델 성능 경쟁뿐 아니라 ‘신뢰 기술’ 확보에도 속도를 내는 분위기다.
구글 측은 신스ID 적용 플랫폼을 늘려 디지털 생태계 전반의 투명성을 높이겠다는 입장이다. 카카오 역시 책임 있는 AI 서비스 구현을 위해 기술 협력을 확대하겠다고 밝혔다.
“기술적 식별 체계, 사회적 신뢰의 출발점”
AI 윤리 분야 전문가는 “AI 생성 콘텐츠가 일상화된 환경에서는 ‘보이는 표시’만으로는 충분하지 않다”며 “재편집 이후에도 추적 가능한 기술적 장치가 있어야 허위 정보 확산을 최소화할 수 있다”고 말했다. 그는 이어 “워터마킹 기술은 완전한 해결책이라기보다, 플랫폼 신뢰를 구축하는 첫 단계라는 점에서 의미가 있다”고 평가했다.
카카오의 이번 결정은 단순 기능 추가를 넘어, AI 플랫폼 사업자의 책임 범위를 어디까지 확장할 것인가에 대한 신호로 해석된다. AI 생성물 표시제가 제도권에 안착하는 시점에서, 기술적 대응 수준이 기업 신뢰도를 가르는 기준으로 작용할 가능성이 크다.
댓글
0