[99.9 MHz] "AI 시대, 데이터가 아닌 존엄한 주체로"...AI와 정보인권 10...

OBS 라디오 ‘희망 99.9’ 10부작 시리즈 종영... 전문가들 "징벌적 손해배상·집단소송제 도입 시급"

인공지능(AI) 기술이 우리 삶의 편의를 획기적으로 높이고 있지만, 그 이면에 숨겨진 ‘보이지 않는 인권 침해’에 대한 경고의 목소리도 커지고 있다. OBS 라디오의 기획 시리즈 <희망 99.9 AI와 정보인권>은 지난 10주간의 대장정을 마치며, AI 시대에 인간의 존엄성을 지키기 위한 구체적인 법적·제도적 해법을 제시했다.

이번 특집 대담에는 대한민국 대표 인권변호사인 김칠준 변호사와 입법학 및 IT 법제의 권위자인 심우민 경인교대 교수가 참여해 AI 기술 권력에 대응하는 시민의 권리와 국가·기업의 책무를 집중 점검했다.

■ "조용하고 일상적인 인권 침해... 데이터가 된 인간"

김칠준 변호사는 AI 시대 인권 침해의 가장 큰 특징으로 '비가시성'을 꼽았다. 과거의 인권 침해가 폭력이나 구금 등 눈에 보이는 방식이었다면, AI 시대에는 내 정보가 언제 수집되어 어떤 알고리즘에 의해 평가되는지 알 수 없는 상태에서 '조용하고 일상적으로' 벌어진다는 것이다.

김 변호사는 사람이 한 명의 존엄한 존재가 아니라 데이터 조작, 위험 점수, 소비 가능성 등 '데이터화'되어 관리 대상으로 전락하는 것이 가장 뼈아픈 대목이라며, 기술 앞에서 인간이 설명과 이의를 요구할 수 있는 '주체'로 남아야 한다고 강조했다.

■ "기업 책임 강화 위해 징벌적 손해배상·입증책임 전환 필요"

전문가들은 기업의 사회적 책임을 강제하기 위한 강력한 법적 장치가 필요하다는 데 입을 모았다. 특히 기업이 경제 논리에만 매몰되지 않도록 '징벌적 손해배상제' 도입이 시급하다고 주장했다.

김 변호사는 기업이 인권 침해를 방치해 얻는 이익보다 사고 발생 시 치러야 할 대가가 훨씬 크도록 만들어야 한다며 이는 사후 처벌이 목적이 아니라, 기업 스스로가 사전적으로 안전과 인권에 투자하게 만드는 메시지가 될 것이라고 설명했다.

또한, AI에 의한 피해는 소액 다수가 겪는 경우가 많으므로 '집단소송제'를 활성화하고, 전문적인 기술 영역에서 개인이 피해를 증명하기 어려운 점을 고려해 기업이 직접 자사의 적법성을 증명하게 하는 '입증 책임의 전환'이 필요하다는 제안도 나왔다.

■  공공 영역 AI 결정, '사람에게 다시 심사받을 권리' 보장해야

행정 서비스에 AI가 도입되는 과정에서 발생할 수 있는 차별과 배제에 대한 우려도 다뤄졌다. 전문가들은 행정 처분에 AI가 활용될 경우 세 가지 핵심 권리가 보장되어야 한다고 정리했다.  첫째, AI가 사용되었다는 사실을 알 권리,  둘째, AI의 판단 기준과 근거를 설명받을 권리, 셋째 최종적으로 사람에게 다시 심사받을 권리다.

심우민 교수는 유네스코의 'AI 영향 평가' 개념을 언급하며, 기술이 블랙박스화되는 것을 막기 위해 상시적인 추적 시스템과 제품 출시 전 위험성 평가가 필수적이라고 덧붙였다.

■ 아날로그 선택권은 기본권... 디지털 감수성 회복이 정답

디지털 격차로 인한 소외 문제도 주요 화두였다. 은행 업무나 공공 서비스가 앱(App) 중심으로 개편되면서 노년층 등이 겪는 '디지털 장벽'은 단순한 불편을 넘어 생존의 문제로 직결된다는 지적이다.

김 변호사는 "아날로그 방식으로 접근할 수 있는 길을 열어두는 '아날로그 선택권'은 AI 시대의 중요한 기본권"이라며 효율성이라는 명목하에 대면 서비스를 없애는 것은 서비스의 장벽을 세우는 것과 같다고 비판했다.

심 교수는 교육을 통해 팩트체크 역량을 키우는 것도 중요하지만, 타인의 고통을 인지하는 '디지털 감수성'을 회복하는 것이 우선이라며, 기술 결정론에 매몰되지 않는 인간 중심의 교육을 강조했다.

■  AI 강국 넘어 '인권 모범 국가'로

대담을 마무리하며 심우민 교수는 "시민의 목소리가 입법 과정에 적극적으로 반영되는 구조를 만들어야 한다"고 제언했으며, 김칠준 변호사는 "장애인, 노동자 등 사회적 약자의 AI 접근성을 높이는 것이 결국 우리 사회 전체의 인권 수준을 올리는 길"이라고 밝혔다.

단순한 기술 강국을 넘어 AI 시대의 인권 표준을 제시하는 '모범 국가'로 나아가기 위한 한국 사회의 성찰과 법제 정비가 필요한 시점이다.

OBS 뉴스는 언제나 여러분의 제보를 기다립니다.

▶ 전화 032-670-5555

▶ 이메일 jebo@obs.co.kr

▶ 카카오톡 @OBS제보