[99.9MHz] AI 알고리즘은 중립적이지 않다...AI와 정보인권 3편

인공지능 시대, 편리함 뒤에 숨은 '디지털 낙인'과 차별의 실체

우리는 매일 인공지능(AI)의 추천 뉴스를 읽고, 알고리즘이 분류한 상품을 구매하며, AI의 평가가 반영된 금융·채용 서비스를 이용한다. 흔히 숫자로 계산되는 알고리즘이 인간보다 공정하고 중립적일 것이라 믿지만, 전문가들은 이것이 "위험한 오해"라고 경고한다.

오늘(25일) 방송된 OBS라디오 <굿모닝OBS> 기획 시리즈에서는 대한민국 대표 인권 변호사인 김칠준 변호사(법무법인 다산)와 문병주 변호사(법무법인 다산)가 출연해 AI 알고리즘의 편향성과 그로 인한 정보인권 침해의 심각성을 집중 진단했다.

■ '이루다' 사건이 남긴 교훈, "데이터가 많다고 인권이 밀려나선 안 돼"

지난 2021년 사회적 파장을 일으킨 AI 챗봇 '이루다' 사건은 AI 학습 과정에서 개인정보가 얼마나 쉽게 도구화될 수 있는지 보여준 대표적 사례다. 94억 건에 달하는 카카오톡 대화 문장이 이용자 동의 없이 학습 데이터로 활용됐으며, 이 과정에서 이름, 주소, 전화번호 등이 제대로 필터링되지 않은 채 노출됐다.

문병주 변호사는 당시 개발사는 신규 서비스 개발 목적에 동의를 받았다고 주장했지만, 이용자들이 자신의 사적인 대화가 AI 학습에 전용될 것까지 예측하기는 어려웠다고 지적했다. 특히 대화 상대방인 제3자의 정보까지 무단 활용된 점은 정보인권의 핵심인 '자기결정권'을 정면으로 침해한 것이라고 강조했다.

김칠준 변호사는 이에 대해 "AI의 성능을 위해 규제를 완화해야 한다는 기업의 주장보다, 피해 규모에 걸맞은 엄격한 제재와 통제가 우선되어야 한다"며, 설계 단계부터 인권 보호 원칙을 반영하는 '인권 바이 디자인(Human Rights by Design)'의 필요성을 역설했다.

■ "AI가 나를 거절했다면?"... 베일에 싸인 '블랙박스' 알고리즘

더 큰 문제는 AI가 내린 결정의 근거를 알 수 없다는 점이다. 대출 심사 거절이나 채용 탈락의 이유를 물어도 "시스템 결과가 그렇다"는 답변만 돌아오기 일쑤다. 이는 AI 딥러닝 기술의 특성상 개발자조차 중간 과정을 완벽히 설명하기 어려운 '블랙박스' 현상 때문이다.

김 변호사는 "AI는 스스로 세상을 이해하는 것이 아니라 인간이 만든 데이터를 학습할 뿐"이라며 과거 데이터에 성별, 지역, 학력에 대한 편견이 담겨 있다면 AI는 이를 정교하게 재생산하고 강화한다고 설명했다. 실제로 아마존의 AI 채용 시스템이 과거 데이터를 학습해 '여성' 단어가 포함된 이력서를 감점 처리했던 사례는 알고리즘의 편향성이 단순한 기술적 오류가 아닌 '인권 문제'임을 시사한다.

■ '설명 요구권' 법제화... "인간의 존엄 지키는 최소한의 방어권"

이러한 불투명성에 대응하기 위해 등장한 개념이 바로 '설명 요구권'이다. 2023년 개정된 개인정보보호법(제37조의 2)에는 자동화된 결정에 대해 이의를 제기하고 설명을 요구할 수 있는 권리가 신설됐다.

김칠준 변호사는 "설명 요구권은 내가 왜 불이익을 당했는지 알고 반론할 수 있는 기초적인 방어권이자, 인간의 존엄성을 지키는 수단"이라고 강조했다. 기술적으로도 사람이 이해할 수 있는 언어로 결정 과정을 풀어주는 '설명 가능한 인공지능(XAI)' 기술 도입을 의무화해야 한다는 목소리도 높다.

■ 국가인권위원회 '인권 가이드라인'과 시민의 감시

국가인권위원회는 2022년 'AI 개발 및 활용에 관한 인권 가이드라인'을 발표하며 △인간의 존엄성 △투명성 및 설명 의무 △차별 금지 등 6가지 핵심 원칙을 제시했다. 비록 법적 강제력은 없지만, 향후 입법과 사법적 판단의 중요한 기준점이 될 전망이다.

또한 가이드라인은 AI를 위험도에 따라 4단계(금지, 고위험, 제한된 위험, 저위험)로 분류해 차등 규제할 것을 권고하고 있다. 특히 생명과 안전에 직결된 '고위험 AI'에 대해서는 공공과 민간을 막론하고 엄격한 인권영향평가가 선행되어야 한다는 지적이다.

마지막으로 두 변호사는 시민들의 '비판적 감시'를 당부했다. AI가 삶을 편하게 해준다는 이유로 나의 정보를 넘겨주는 것을 당연하게 여기지 말아야 한다며 필수 동의와 선택 동의를 구분하고, 개인정보 포털 등을 통해 적극적으로 자신의 권리를 행사하는 습관이 디지털 인권을 지키는 첫걸음이라고 제언했다.

AI가 인간을 평가하고 분류하는 시대, 알고리즘의 '편리함'이라는 이름 뒤에 가려진 '인권'의 가치를 다시금 되새겨야 할 시점이다.

OBS 뉴스는 언제나 여러분의 제보를 기다립니다.

▶ 전화 032-670-5555

▶ 이메일 jebo@obs.co.kr

▶ 카카오톡 @OBS제보