이미지 위 ‘변장 망토’ 등 속속 등장
노이즈 없애는 필터링 개발도 활발
정부, 대책 내놓지만 실효성 떨어져
인공지능(AI)의 저작물 무단 학습을 둘러싼 갑론을박이 끊이지 않고 있다. 특히 저작물에 생계가 달린 작가들 경우 자신의 작품이 도리어 본인을 대체하는 기술을 만드는 모순에 직면한 상황이다. 이에 국내외를 막론하고 AI의 저작물 무단 학습을 차단하거나, 교란하는 방어 기술이 속속 등장하고 있다. 하지만 이러한 방어 조치를 무력화 내지 우회하려는 ‘창’의 움직임도 만만치 않다. 정부 역시 대가 없는 학습을 근절하겠다는 제도적 의지를 피력하고 있지만, 실효성은 현저히 떨어진다는 지적이다.
벤 자오 교수가 이끄는 미국 시카고대학교 연구팀은 2023년부터 AI 데이터 학습을 방어하는 ‘글레이즈’ 기술을 꾸준히 고도화하고 있다. 이 기술은 이미지 위에 육안으로는 식별할 수 없는 노이즈를 삽입해 마치 ‘변장 망토’를 씌우는 것과 비슷한 효과를 낸다. AI가 지브리 스타일 화풍을 반 고흐 유화풍으로 오인하게 해 화풍 복제를 방지하는 식이다.
연구팀은 AI의 생성 능력 자체를 손상시키는 ‘나이트쉐이드’ 기술도 선보였다. 나이트쉐이드는 이미지 픽셀을 미세하게 수정해 AI 훈련에 사용되는 데이터셋을 오염시킨다. 가령 강아지 사진을 학습 데이터로 쓰더라도 AI가 이를 고양이로 인식하게끔 만들어 ‘강아지’라는 프롬프트에 엉뚱한 데이터를 주입하는 방식이다.
국내에서는 2024년부터 스타트업 모리(Mori)가 ‘안티-AI’ 필터를 개발해오고 있다. 이 기술 역시 이미지에 미세한 노이즈를 삽입해 AI의 데이터 추출을 방해하는 원리지만, 한국 창작 생태계에 최적화된 서비스라는 특징이 있다. 창작물 복제는 물론 얼굴 딥페이크에서도 효과를 입증했다.
하지만 이런 방어막을 뚫으려는 시도도 갈수록 정교해지고 있다. 이미지에 섞인 노이즈를 제거하는 ‘필터링 기술’이 대표적 사례다. 도리어 글레이즈나 나이트쉐이드가 적용된 이미지를 별도로 학습시켜 AI가 노이즈를 무시하고 본래의 특징을 추출하도록 하는 우회 전략도 존재한다.
정부도 창작자 권리 보호를 위해 ‘워터마크 의무화’를 비롯해 여러 대책을 내놓고 있다. 하지만 기술적 대응 방안을 지원하겠다는 내용은 빠져 있는 실정이다. 결국 창작자들 사이에서는 저작물의 ‘원본성’을 입증할 데이터를 스스로 쌓아두는 것이 가장 현실적인 자구책이라는 목소리가 나온다. 한 업계 관계자는 “여러 조치를 취해도 AI가 저작물을 학습할 가능성은 늘 열려있다”며 “현재로서는 창작자 스스로 대비를 하는 것이 최선”이라고 말했다.
댓글
0