생성물 표시 의무 실효성부터 워터마크까지…검증 가능한 인프라 필요성 강조
[테크월드뉴스=김승기 기자] 생성형 인공지능(AI)이 빠르게 확산되면서 콘텐츠의 진위 여부를 판별하는 ‘AI 신뢰성’ 문제가 산업 전반의 핵심 과제로 떠오르고 있다.
민경웅 스냅태그 대표. [사진=스냅태그]
특히 AI 기본법에서 언급된 ‘생성물 표시 의무’를 둘러싸고 기술적 구현과 제도적 실효성에 대한 논의도 본격화되는 분위기다.
이러한 흐름 속에서 스냅태그는 생성 단계뿐 아니라 유통 단계까지 포함한 검증 구조가 필요하다고 강조한다. 민경웅 스냅태그 대표는 “AI 신뢰성은 단순 표시 기능이 아니라 유통 생태계 전반을 설계하는 문제”라고 진단했다.
“표시 의무만으로는 부족…생성·유통 연결된 구조 필요”
민 대표는 생성물 표시 의무가 기술적으로는 구현 가능하지만 실제 산업 현장에서는 적용 방식에 따라 실효성이 크게 달라질 수 있다고 봤다.
그는 “가장 바람직한 구조는 생성형 AI 서비스가 콘텐츠 생성 단계에서 워터마크나 식별 정보를 자동으로 삽입하고 유통 플랫폼이 이를 별도 사용자 개입 없이 자동으로 검증·표시하는 방식”이라며 “이 과정에서도 사용자 경험이 기존과 동일하게 유지돼야 한다”고 설명했다.
반면 초기 시장에서는 서비스마다 서로 다른 방식의 표시가 적용되면서 유통 과정에서 정보가 사라지거나 확인이 어려워지는 문제가 발생할 가능성도 제기했다.
민 대표는 “현재 제도는 표시 의무는 있지만 이를 확인하고 고지하는 단계까지는 명확하지 않다”며 “이 경우 딥페이크 대응 등 실질적인 피해 방지 효과가 제한될 수 있다”고 말했다. 이어 “생성 단계와 유통 단계가 함께 연결된 검증 인프라가 구축돼야 제도의 실효성이 확보된다”고 덧붙였다.
워터마크 중심 인증 구조로 진화…“비가시성 기술이 핵심”
생성형 AI 콘텐츠가 다양한 방식으로 재가공·재배포되는 환경에서는 기존 인증 방식만으로 신뢰성을 유지하기 어렵다는 분석도 내놨다.
민 대표는 “캡처나 재촬영, 압축, 편집 등 다양한 변형이 발생하는 상황에서는 메타데이터나 파일 기반 정보만으로는 한계가 있다”며 “콘텐츠 픽셀 자체에 정보를 내재하는 비가시성 워터마크가 사실상 필수적인 기술이 될 가능성이 높다”고 설명했다.
이어 “글로벌 AI 기업들도 해당 기술을 지속적으로 개발하고 있다”며 “향후에는 단일 기술이 아니라 워터마크를 중심으로 여러 인증 기술이 결합된 복합 구조로 발전할 것”이라고 전망했다.
AI 기본법상 ‘고영향 AI’와 관련해서는 “특정 기업을 단정하기는 어렵지만 산업 현장에서는 이미 금융, 공공, 국방 등 민감 영역을 중심으로 높은 수준의 신뢰성과 위험 관리 필요성이 커지고 있다”고 덧붙였다.
“AI 신뢰성은 인프라”…공공·민간 이원 구조로 확대
스냅태그의 기술적 특징에 대해서는 실제 유통 환경에서의 검증 가능성에 초점이 맞춰져 있다고 설명했다. 민 대표는 “원본 데이터 없이도 콘텐츠 자체에 내재된 정보만으로 AI 생성 여부를 판별할 수 있도록 설계된 점이 핵심”이라며 “캡처나 재촬영, 압축 등 다양한 환경에서도 정보가 유지되고 대규모 서비스에서도 지연 없이 검증이 가능하다”고 말했다.
또 “API 형태로 제공되는 인프라 구조를 통해 별도의 추가 투자 없이도 생성형 AI 서비스 기업과 플랫폼이 규제 대응을 할 수 있도록 했다”고 덧붙였다.
AI 신뢰성 시장의 향후 구조에 대해서는 공공성과 상업성이 결합된 형태로 발전할 것으로 내다봤다. 그는 “AI 생성물 여부 확인이나 딥페이크 대응, 유통 투명성 확보 같은 기능은 공공 인프라 성격을 띠게 될 것”이라며 “산업 전체가 공유할 수 있는 구조가 필요하다”고 말했다.
반면 군·국방 데이터나 기업 R&D, 금융 정보 등은 별도의 보안 요구가 존재하기 때문에 전용 시스템과 계약 기반 서비스가 필요하다고 민 대표는 설명했다.
민 대표는 “결국 기본 신뢰는 공공 인프라로 확보하고 고도화된 보호는 민간 서비스가 담당하는 이원 구조로 발전할 것”이라며 “이는 인터넷 보안이나 클라우드 산업이 성장해온 방식과 유사하다”고 분석했다.
이어 “빅테크는 자사 플랫폼 중심으로 기술을 구축하는 반면 스타트업은 플랫폼 간 경계를 넘는 중립적인 인프라를 제공할 수 있다”며 “표준 형성과 산업 전반 적용 과정에서 스타트업이 충분히 제 역할을 다할 수 있다”고 강조했다.
회원가입 후 이용바랍니다.
댓글
0