중국 정부가 AI 산업의 급속한 성장에 대응해 윤리 및 안전 규제를 대폭 강화하고 나섰다.
사우스차이나모닝포스트는 3일(현지시간) 중국 정부가 AI 기술의 윤리 심사 및 서비스에 관한 가이드라인을 발표했다고 보도했다. 이는 중국 공업정보화부, 국가발전개혁위원회, 중국과학원 등 10개 정부 부처와 기관이 공동으로 발표한 것으로, 즉시 시행된다.
규정에 따르면, AI 관련 활동을 수행하는 기업은 물론 대학, 연구 기관, 의료 기관까지 내부 윤리 심의 조직을 구성해야 한다. 또 AI 기술이 인간의 복지에 미치는 영향, 알고리즘의 공정성, 시스템의 통제 가능성과 설명 가능성 등을 사전에 검토해야 한다.
중국은 이미 2023년 통합 과학기술 윤리 심사 체계를 도입해 사회적 영향력이 큰 AI 모델이나 고도의 자율적 의사결정 시스템에 대해 사전 윤리 검토를 요구해 왔다. 그러나, 기존 제도는 적용 범위와 심사 기준이 모호하고 집행력이 부족하다는 지적을 받아왔다. 이번 규정은 이러한 한계를 보완해 구체적인 기준과 실행 체계를 마련하는 데 초점을 맞췄다.
새롭게 발표된 AI 윤리 가이드라인은 기술 혁신을 지원하는 동시에 윤리적 위험을 예방하기 위한 기술적 수단 강화를 강조한다. 특히 데이터 선정 기준, 알고리즘 및 모델 설계의 적절성, 편향·차별·알고리즘 남용 방지 대책 등을 핵심 심사 요소로 명시했다. 또 고품질 데이터셋의 단계적 공개, 위험 관리 및 평가 도구 개발, 활용 시나리오 기반 위험 평가 체계 구축도 추진할 방침이다.
이와 함께 중국의 인터넷 규제 기관인 중국 국가인터넷정보판공실은 디지털 휴먼 기술을 겨냥한 별도의 규제 초안을 발표했다. 여기에는 모든 가상 인간 콘텐츠에 명확한 표시를 의무화하고, 아동을 오도하거나 중독을 유발할 수 있는 서비스는 금지하는 내용이 포함돼 있다.
특히, 18세 미만 이용자에게 ‘가상 친밀 관계’를 제공하는 행위를 금지하고, 타인의 개인정보를 동의 없이 활용해 디지털 휴먼을 생성하거나 신원 인증을 우회하는 데 사용하는 행위도 차단한다.
또 국가 안보를 위협하거나 분열을 조장하는 콘텐츠는 물론, 선정적·폭력적·차별적 콘텐츠 역시 엄격히 제한된다. 플랫폼 사업자에게는 자해나 자살 징후를 보이는 이용자에 대한 개입과 지원 조치도 권고됐다.
이 같은 규제 강화는 중국이 최근 발표한 5개년 정책 청사진에서 AI를 국가 경제 전반에 적극 도입하겠다는 전략과 맞물려 추진되고 있다. 산업 육성을 가속하는 동시에, 사회주의 가치와 국가 안보에 부합하는 방향으로 기술 발전을 통제하겠다는 의도가 반영된 것이다.
박찬 기자 cpark@aitimes.com
댓글
0