정부, 2020년 이후 6년 만에 AI 에이전트 등 기준 구체화 법적 규제 아닌 자율규범 한계
정부가 인공지능(AI) 확산에 맞춰 국가 AI 윤리원칙을 6년 만에 전면 개편했다. AI를 활용한 사이버공격 등 오남용을 막고, AI 빅테크 등 영향력이 큰 사업자가 영향력에 비례한 책임을 지도록 한 것이 특징이다.
이번 원칙은 자율규범 성격이 강해 향후 각 부처의 세부 가이드라인이 얼마나 구체화하느냐에 따라 실효성도 달라질 것으로 보인다.
과학기술정보통신부는 24일 이런 내용을 담은 ‘대한민국 인공지능 윤리원칙’을 발표했다. 과기정통부는 ‘인간의 존엄성·사회의 공공선·인류의 지속 가능성’을 3대 가치로 제시했다. 또 ‘인간 중심성·프라이버시 보호·공정성 및 포용성·책임성·안전성·신뢰성·투명성’이란 7대 원칙도 세웠다.
이번 개편은 2020년 ‘AI 윤리기준’ 제정 후 6년 만이다. 당시 기준은 ‘인간성’을 중심으로 한 포괄적인 원칙에 가까웠다. 이번에는 AI 확산 영향을 반영해 사람의 통제와 위험 관리 기준을 구체화했다.
AI가 일자리와 산업을 어떻게 바꾸는지, 사람의 판단을 어디까지 맡길 수 있는지 등에 적용할 공통 기준을 마련했다는 의미도 있다.
우선 스스로 판단·행동하는 ‘AI 에이전트’에 대한 통제와 책임을 강화했다. AI는 사람의 판단을 지원하는 수단으로 활용하고, 필요하면 사람이 작동에 개입할 수 있어야 한다고 명시했다.
AI 이용자의 책임도 구체화했다. AI를 이용해 개인정보를 침해하거나 안전장치를 우회해서는 안 된다는 내용 등이 담겼다. 최근 AI가 업무와 일상 전반으로 확산하고 사이버공격이나 개인정보 침해 등에 악용될 위험이 커진 데 따른 것이다. 또 이용자는 AI 결과를 무비판적으로 따르거나 과도하게 의존하지 않고 스스로 검토해야 한다. AI가 사람 대신 판단하게 하기보다 이를 지원하는 수단으로 활용하라는 취지다.
AI 서비스의 ‘신뢰성’도 새 원칙으로 도입됐다. AI 공급사가 서비스 목적에 맞는 최소 성능 기준을 정하고, 서비스 운영 중에도 성능과 작동 상태를 계속 점검하도록 했다.
책임성 원칙도 강화됐다. 서비스에 문제가 발생하면 실질적인 피해 구제에도 나서야 한다. AI 역량이나 데이터·시장 영향력이 큰 기업일수록 더 큰 책임을 져야 한다는 ‘비례적 책임’도 명시됐다. AI 생태계 영향력이 소수 빅테크와 프런티어 AI 랩에 집중된 현실을 고려해 이들에게 영향력에 상응하는 책임을 요구한 것으로 해석된다.
정부는 지난해 12월 작업을 시작해 올 5월29일 초안을 공개하고, 이달 전문가 토론회 등을 거쳐 최종안을 마련했다. 다만 윤리원칙은 법정 제재를 수반하는 규제가 아닌 자율규범이란 한계가 있다.
정부는 실효성을 높이기 위해 향후 사례 중심 해설서와 분야별 자율점검표 등을 만들고, 관계 부처도 분야 특성에 맞는 윤리기준·가이드라인으로 이를 구체화할 방침이다.
배경훈 부총리 겸 과기정통부 장관은 “AI 혁신을 가속하는 것과 안전하고 신뢰할 수 있는 AI 환경을 조성하는 것은 서로 대립하는 과제가 아니다”라며 “AI에 대한 사회적 신뢰를 높이고, 바람직한 개발·활용과 그 혜택의 확산을 돕는 실천의 기준으로 자리 잡도록 뒷받침하겠다”고 말했다.
댓글
0