사진=카카오
카카오가 구글 딥마인드(Google DeepMind)와 손을 잡고 딥페이크·허위 정보 등 생성형 AI의 부작용을 막기 위한 전방위적 대응에 나선다. 글로벌 빅테크의 최첨단 안전 기술을 선제적으로 도입해 안심하고 쓸 수 있는 안전한 AI 생태계를 구축하겠다는 구상이다.
카카오는 구글 딥마인드와 AI 생성 콘텐츠의 투명성 확보를 위한 기술 파트너십을 체결했다고 20일 밝혔다. 이번 파트너십을 통해 카카오는 자체 AI 모델 ‘카나나(Kanana)’에 디지털 워터마킹 및 탐지 기술 ‘신스ID(SynthID)’를 적용해 AI 생성 콘텐츠에 워터마크를 삽입하고 추적할 수 있는 수 있는 기반을 마련한다.
카카오는 전 세계적으로 신스ID 워터마킹을 초기 도입한 기업 중 하나로 아시아 기업 중에서는 최초로 AI 생성 콘텐츠에 해당 기술을 적용한다.
카카오는 우선 올해 하반기부터 자체 이미지 생성 모델인 ‘카나나 콜라주(Kanana-Kollage)’와 영상 생성 모델 ‘카나나 키네마(Kanana-Kinema)’에 신스ID 워터마크를 이식한다.
첫 적용은 카카오톡의 신규 기능인 ‘카나나 템플릿’이 될 예정이다. 카나나 템플릿은 이용자가 카카오톡 대화방에서 주고받은 사진을 기반으로 생성형 AI가 짧은 동영상을 제작해주는 기능이다. 기본적으로 영상 우측 하단에 카나나 로고가 찍히지만 누군가 이를 악의적으로 크롭해 악용하더라도 신스ID 검증 체계를 통해 딥페이크 여부를 가려낼 수 있게 된다.
정부와 국회가 올해부터 AI 기본법을 발효하고 AI 생성물 표시제를 전격 의무화한 가운데 카카오는 이번 행보를 통해 AI 생성 콘텐츠의 투명성과 신뢰성 강화에 적극 나설 방침이다.
김경훈 카카오 AI 세이프티 리더는 “신스ID 적용을 시작으로 구글과 책임감 있는 AI (Responsible AI) 영역에서의 기술 협력을 지속하며 이용자가 안심하고 사용할 수 있는 안전한 AI 서비스를 제공해 나갈 계획”이라고 말했다.
파이낸셜투데이 정유라 기자
댓글
0