대구경북과학기술원(DGIST)은 2일 전기전자컴퓨터공학과·인공지능전공 김영식 교수 연구팀이 인공지능(AI) 생성 여부와 출처를 명확히 증명하는 혁신적인 가짜 방지 기술인 ‘BREW(Block-wise Reliable Embedding for Watermarking)’를 개발했다고 밝혔다.
이 기술은 향후 가짜 뉴스로 인한 사회적 혼란을 막고 디지털 저작권을 보호하는 글로벌 AI 포렌식 분야에서 핵심적으로 활용될 것으로 기대된다.
생성형 AI가 빠르게 확산하면서 AI가 작성한 뉴스·문서·과제·창작물의 출처를 정확히 확인하는 기술의 중요성이 커지고 있지만 기존 멀티비트 텍스트 워터마킹 기술은 워터마크가 없는 일반 글도 AI 생성 글로 잘못 판단하는 높은 오탐률로 인해 실제 적용에 한계가 있었다.
이에 연구팀이 개발한 BREW는 글을 여러 조각(블록)으로 나눠 독립적으로 검증하고 문장의 미세한 변화를 추적하는 방식을 도입했다. 단어를 교체하거나 문장 구조를 교묘하게 비틀어 암호를 지우려는 악의적인 시도가 있더라도, 윈도우 시프팅(Window-Shifting) 기법을 통해 정렬을 복구해 워터마크를 완벽하게 추적해 낸다.
자체 실험 결과, BREW는 AI 생성 글의 10%를 동의어로 바꾸는 훼손 환경에서도 96.5%의 높은 탐지율을 유지했고, 사람이 작성한 일반 글을 AI 생성 글로 잘못 판단하는 오탐률을 2% 수준으로 낮추는 것으로 확인됐다. 해당 논문은 인공지능 분야 최고 권위 학회인 ‘ICML 2026’에 채택됐다.
김영식 교수는 “이번 연구는 사람이 쓴 글을 AI가 쓴 것으로 오인하던 기존 기술의 치명적 결함을 극복하고, 악의적인 텍스트 훼손 시도까지 완벽히 방어해 내는 강력한 기술”이라며 “향후 가짜 뉴스로 인한 사회적 혼란을 막고 디지털 저작권을 보호하는 글로벌 AI 포렌식 분야에서 핵심적인 역할을 할 것”이라고 강조했다.
김홍철기자 khc@idaegu.co.kr
댓글
0