조국혁신당 AI특별위원회와 국회의원 이해민, 한국인공지능법학회가 21일 서울 영등포구 여의도동 국회의원회관 제8간담회실에서 개최한 '개방형 AI 생태계 구축을 위한 국회 토론회'에서 김민경 홍콩시티대 겸임교수가 '개방형 AI 생태계 조성을 위한 법적 과제'를 주제로 발제에 나서며 개방형 AI 생태계는 기술의 문제가 아니라 '생태계의 문제'라고 강조했다. 그는 "개방형 AI 생태계는 단순히 기술의 문제가 아니다"라면서 "데이터 AI 모델 인프라 그리고 국민과 기업이 안심하고 데이터를 제공할 수 있는 규제 체계가 상호 유기적으로 연결된 생태계의 문제"라고 말했다. 기술 스택 위에 규제 스택이 함께 얹혀야 한다는 시각이다.
김 교수가 가장 먼저 문제 삼은 것은 오래된 사고 틀이다. 그는 "데이터가 국가의 핵심 자원이 됐지만 우리는 지금까지 개인 정보 보호와 데이터 활용을 상충하는 가치 즉 보호 대 활용이라는 이분법으로 접근해 왔다"면서 "안전한 보호 조치를 전제로 한 데이터 활용 다시 말해 신뢰 기반 혁신이 필요하다"고 강조했다. 보호와 활용을 마주 세우는 대신, 안전장치를 전제로 흐르게 하자는 전환이다.
기업이 보수적으로 움직이게 만드는 원인도 짚었다. 그는 "AI 기술 확산과 함께 흔히 제기되는 데이터 문제로 데이터 국지화, 국경 간 이전 제한 그리고 개인정보 침해 우려가 있다"면서 "여기서 파생되는 더 큰 문제는 이로 인하여 발생되는 법적 불확실성"이라고 짚었다. 김 교수는 "기업은 무엇이 합법인지 확신이 없을 때 가장 보수적인 선택을 하게 된다"면서 "즉 활용을 하지 않게 되는 것이고 이것이 곧 혁신을 저해하는 큰 요인으로 작용한다"고 말했다. 규제의 공백이 아니라 규제의 모호성이 혁신을 가로막는다는 진단이다.
사진=최진홍 기자
글로벌 정합성 문제도 날카롭게 제기됐다. 김 교수는 "만약 한국의 개인정보 보호 규제가 단지 우리나라 시장에만 특화돼 있고 국제적인 흐름과 동떨어진다면 이것이 바로 우리 기업의 해외 진출을 저해하게 되고 규제의 프래그멘테이션으로 인한 비효율이 발생하며 또 이것이 실질적으로 비관세 장벽으로 작용할 것"이라면서 "국내에서만 통용되는 규칙은 국내 시장의 한계를 고착화시킬 뿐"이라고 말했다. 앞서 김현수 연구위원이 강조한 '글로벌 표준 부합' 원칙이 데이터 거버넌스 영역에서 다시 울리는 대목이다.
김 교수가 제시한 데이터 분야 정책 과제는 세 가지다. 첫째는 합법 처리 근거의 유연화·명확화다. 그는 "개인정보보호법상 정보 주체의 동의 없이 가명 정보를 처리할 수 있는 과학적 연구의 범위를 순수 학술 연구에 한정하지 않고 AI 모델의 기술 개발 학습 단계까지 포함하도록 해석을 명확히 하거나 입법적으로 보완할 필요가 있다"면서 "특히 기업이 주도하는 상업적 목적의 AI 모델 개발 및 학습 과정도 과학적 연구의 범위에 포함시켜서 가명 정보 특례 목적의 데이터 활용이 현장에서 활성화될 수 있도록 적극 지원해야 한다"고 말했다.
웹 스크래핑의 회색지대도 정리 대상이다.
그는 "개인정보 수집 이용의 근거로 규정된 개인정보 처리자의 정당한 이익 조항의 구체적 적용 기준을 확립할 필요가 있다"면서 "웹 스크래핑 등 공개된 정보를 수집해 안전 조치를 이행한 경우 정당한 이익을 인정하는 것으로 유권 해석을 하거나 정당한 이익이 있는 것으로 어떤 경우에 추정할 수 있는지에 대한 구체적인 가이드라인을 도입할 수 있다"고 설명했다. 예측 가능성을 올리면 컴플라이언스 부담은 자연히 내려간다는 논리다.
두 번째 과제는 AI 개인정보 규제 샌드박스의 법제화다. 김 교수는 "현재 부처 차원에서 추진 중인 샌드박스 제도가 행정적 재량에 그치지 않고 법적 안정성을 가질 수 있도록 EU AI법을 벤치마킹해서 별도의 법적 근거를 마련해야 한다"고 제안했다.
주목할 대목은 '세이프 하버' 도입이다. 그는 "개인정보위원회가 지정한 AI 데이터 안심 구역 또는 승인된 샌드박스 내에서는 의료 안전 환경 등 공익적 목적이나 국가 경쟁력과 직결되는 분야에 한해 수집 목적 외의 데이터를 AI 학습에 활용할 수 있도록 특례 조항을 신설해야 한다"면서 "면책 제도 즉 세이프 하버 제도를 도입해서 샌드박스 참여 기업이 사전에 승인된 대로 처리와 안전 조치를 성실히 이행했다면 향후 개인정보 처리 과정에서 다시 위법이 발생하더라도 과태료 등 행정처분을 경감하거나 면제하는 것을 법제화해서 도전적인 AI 연구를 장려해야 한다"고 말했다.
도전의 리스크를 국가가 나눠 지자는 설계다.
세 번째 과제는 비정형 데이터 활용 지원이다. 김 교수는 "얼굴이나 음성 등 비정형 데이터의 식별성을 제거하면서도 AI 학습용 데이터로서의 유용성을 유지할 수 있도록 차등 프라이버시나 합성 데이터 생성 기술 등 프라이버시 강화 기술 개발을 국가의 중점 과제로 선정할 필요가 있다"면서 "가명 처리가 기술적으로 불가능하거나 비용이 과다하게 소요되는 영역에 대해서는 원본 데이터와 통계적 특성이 유사한 합성 데이터를 생성 공급하는 공공 인프라를 구축해서 스타트업과 중소기업이 저렴하게 활용할 수 있도록 해야 한다"고 말했다. 데이터 평등을 기술로 풀자는 접근이다.
두 번째 주제는 저작권이다. 김 교수는 개방형 AI 플랫폼의 저작권 쟁점을 세 축으로 정리했다. 그는 "개방형 AI 생태계에서 저작권 쟁점은 크게 세 가지로 나눌 수 있다"면서 "첫째 타인의 저작물로 AI를 학습시킬 경우의 문제, 둘째 AI가 생성한 결과물이 저작물과 유사할 경우의 문제, 셋째 AI 모델을 개방형 AI 플랫폼에 유통시킬 때 발생하는 문제"라고 짚었다.
가장 뜨거운 쟁점은 첫 번째다. 그는 "현재 가장 큰 문제는 AI 학습 목적의 저작물 이용에 대한 법적 불확실성"이라면서 "AI 학습을 위한 저작물 이용에 이용 허락이 필요한지 아니면 이것이 공정 이용의 예외에 해당해서 이용 허락 없이 사용할 수 있는 것인지 권리자와 AI 개발자 사이의 이해관계가 충돌하고 있다"고 설명했다.
정공법은 라이선스 계약이다. 김 교수는 "실제로 우리나라나 EU 미국 등지에서 권리자와 개발사 사이에 계약이 체결되고 있다"면서 "퍼플렉시티 같은 경우에는 매일경제와 이데일리와 계약을 체결한 바 있고 미국에서는 아마존이 뉴욕타임스와, 엔비디아가 게티이미지와, EU에서는 오픈AI가 독일 언론사 등과 계약을 체결한 것으로 알고 있다"고 소개했다.
자신의 경험도 스케치처럼 끼워 넣었다. 김 교수는 "작년에 영국에서 책을 하나 냈는데 오픈 액세스로 출간을 했다. 그럼에도 불구하고 며칠 전에 출판사에서 연락이 왔다"면서 "그것을 제 책을 AI 학습 이용 목적의 라이선스 계약에 동의하겠냐고 하길래 저는 기꺼이 동의를 했다"고 말했다. 그러나 모든 창작자가 자신처럼 개방적이지는 않다는 점, 그리고 개발사 입장에서 일일이 권리자를 찾아 협상하기 어려운 현실이 '라이선스 피로'를 만든다는 것이 김 교수의 진단이다.
한편 김 교수는 저작권 분야에서 여섯 가지 정책 과제를 제시했다. 첫째는 개방형 AI 플랫폼의 표준 이용약관 도입이다. 그는 "개방형 AI 플랫폼 내지 생태계의 표준 이용약관에 어떤 범위의 저작물을 어떤 요건 하에서 이용할 수 있는지 라이선스 범위, 생성물의 이용 가능 범위, 그에 대한 대가를 명시하는 조항을 둘 수 있다"면서 "권리자의 권리를 보호하고 창작의 동기를 유지하면서도 AI 산업 혁신을 저해하지 않는 적절한 균형선이 어디인지에 관한 사회적 논의가 필요하다"고 말했다.
댓글
0