[AI 시대, 한국 사회를 다시 설계하자]사회 안전망 침투 중인 AI … 알고리즘에 맡겨진 ‘인간다움’

⑧복지·사회서비스 ‘인간의 자격’마저 다시 묻다

일러스트 | 김상민 기자 yellow@kyunghyang.com

AI로 ‘부정수급’ 걸러내려는 시도들

네덜란드·호주, 오류로 처참히 실패

데이터 편향·기술 맹신이 만든 비극

사람과 기계 사이 경계 흐릿해지고

사회계약 근간 이루는 노동도 흔들

‘인격성’ 논쟁까지…대응 서둘러야

사회보장과 인공지능? 언뜻 보면 뭔가 거리가 먼 조합이다. 실은, 그 반대다. 공공영역에서 인공지능이 가장 활발하게 쓰이는 분야 가운데 하나가 사회보장이다. 인공지능 기술은 다수의 복지국가에서 이미 급여 자격 심사, 급여액 산정, 급여 지급 등에 활용되고 있다. 이를테면, 브라질 국립사회보장원의 인공지능 챗봇 엘로(Helo)는 시민을 대상으로 해마다 2000만건이 넘는 상담을 진행하고 있다. 핀란드 사회보험청은 인공지능 기술을 활용해 급여 심사와 판정 과정을 자동화하고 있다. 싱가포르에서는 취약계층 노인을 위한 AIoT(Artificial Intelligence of Things)를 적용하고 있다. 한국에서도 이미 복지 사각지대 발굴 사업이나 독거노인 대상 AI·IoT 기반 건강관리 사업 등에서 인공지능 기술이 사용되고 있다.

사회보장 영역은 기술 적용에서 가장 논쟁적인 분야이기도 하다. 이유는 네 가지다. 첫째, 막대한 예산이 걸려 있다. 2026년 우리 정부 세출 예산 가운데 사회복지 분야가 248조7000억원이다. 전체 세출 예산의 34.2%다. 고령화 속도를 생각하면 이 비중은 더 올라갈 것이다. 기술 적용에 따른 파장이 그만큼 크다. 둘째, 사회보장 영역은 모든 국민의 일상 데이터를 다룬다. 건강보험 같은 사회보험은 설계상 모든 국민을 포괄한다. 5000만여명의 생애 이력이 다양한 사회보장 시스템 안에 쌓인다. 기술 적용에 따른 사고가 나면 전국 단위가 된다. 셋째, 복지급여 수급자는 대체로 취약집단이다. 노인, 실업자, 환자, 장애인, 아이들이다. 알고리즘이 틀렸을 때 “이건 잘못됐다”고 따질 힘이 가장 약한 사람들이다. 기술 적용에 따른 오류의 비용은 가장 힘없는 사람에게 집중될 수 있다. 넷째, 관련 데이터가 대단히 사적이고 민감하다. 소득, 재산, 질병 이력, 가족관계를 다룬다. 복지급여의 자격을 심사하고 액수를 정하려면 이 모두를 들여다봐야 한다. 당신이 복지급여를 신청하기 위해서는, 어쩌면 가까운 친구에게도 말할 수 없는 개인정보를 내놓아야 한다. 공공은 그러한 정보에 근거해서 사람에게 점수를 매겨야 한다. 그래야, 급여 자격을 따지고, 급여액을 정할 수 있다. 이러한 절차는 유럽연합이 인공지능법에서 ‘수용할 수 없는 위험’으로 분류해 금지한 ‘사회적 평점’(social scoring)과 가깝다. 종합하면, 사회보장과 인공지능이 만나는 자리는 넓고, 또 민감하다. 그 접점의 한 곳에라도 구멍이 뚫리면, 사람이 다치고 무너질 수 있다. 이 글에서는 그 자리에서 이미 벌어지거나, 어쩌면 미래에 벌어질 수 있는 문제를 네 가지로 나눠 짚는다.

첫째, 사회보장 영역에서 인공지능이 불러올 수 있는 부작용에 대한 문제다. 복지행정에 인공지능을 쓰면 장점이 분명히 있다. 몇가지만 간단히 보겠다. 먼저, 속도다. 영국은 실시간 소득 파악 시스템으로 급여 지급 절차를 크게 줄였다. 소득이 끊긴 사람을 몇달 뒤가 아니라 며칠 뒤에 포착할 수 있다. 정확성도 개선된다. 영국 감사원은 복지급여 오류·부정 초과지급이 85억파운드, 전체의 4.0%였다고 보고했다. 기술 발전은 인간의 실수를 상쇄한다. 인공지능은 사각지대 발굴에도 활용된다. 한국의 복지 사각지대 발굴관리 시스템은 공공데이터를 모아 위기가구를 찾아낸다. 기술은 복지 정보에 대한 접근성도 높인다. 브라질의 엘로 같은 사회보장 안내 챗봇은 수급자와 서비스 사이의 거리를 극적으로 좁혀준다. 인공지능에게는 휴일도 없고, 언어의 장벽도 없다. 급여에 대해 궁금한 시민은 언제, 어디서나, 언어 구분 없이 상담을 받을 수 있다.

빛이 밝으면 그늘도 짙게 마련이다. 네덜란드에는 시리(SyRI)라는 위험 분석 시스템이 있었다. 여러 기관에 흩어진 데이터를 연결해 복지급여 부정수급 위험이 높은 사람을 골라냈다. 데이터 알고리즘에 근거해서 리스트에 이름이 오르면 정부 조사가 따라붙었다. 그런데 처음부터 정책 대상이 가난한 동네, 이주민 밀집 지역에 집중됐다. 2020년 헤이그 지방법원은 시리 시스템이 투명성과 안전장치가 없다며 유럽인권협약을 위반했다는 판결을 내렸다. 시스템은 폐쇄됐다. 네덜란드에서는 사고가 한번 더 터졌다. 네덜란드 교육행정청이 장학금 부정수급을 잡겠다며 자동 위험 선별 기술을 썼다. 정당하게 받은 학생까지 사기 의심을 받았고, 이주배경 학생이 유독 많이 걸리는 식으로 구조적 차별이 발생했다. 결국 정부는 알고리즘의 문제를 인정하고 사과했다. 2024년 11월 모든 결정을 철회했다. 피해 학생 약 1만명에게 1000억원에 가까운 배상이 이뤄졌다. 호주는 더 심했다. 2016년 도입한 ‘로보데트’(Robodebt)는 초과 지급된 복지급여 계산과 환수를 자동화했다. 정부는 복지행정 과정에서 부정수급의 문제를 해소하겠다고 설명했다. 결과는 처참했다. 오류가 47만건, 금액으로 7억5000만호주달러 규모였다. 갑자기 수백만원의 빚을 통보받은 수급자들이 무너졌다. 스스로 목숨을 끊은 사람도 나왔다. 2020년 정부는 위법을 인정했다. 스스로 목숨을 끊은 이들의 가족에게 비탄과 피해를 초래한 책임이 제도 탓이라고 호주 왕립조사위원회는 보고했다. 두 나라의 사례에는 공통점이 있다. 편향된 데이터에 의존했고, 과정이 투명하지 않았고, 기술에 대한 맹신이 있었다. 미국의 데이터과학자인 캐시 오닐은 이런 알고리즘을 ‘대량살상수학무기’(Weapons of Math Destruction)라고 불렀다. 우리가 흔히 아는 대량살상무기(WMD)를 비튼 표현이다. 인공지능의 무분별한 활용이 초래할 수 있는 파괴력을 강조한 내용이다. 복지행정에서 신뢰를 쌓는 데는 오래 걸리지만, 무너지는 건 한순간이다.

두 번째의 잠재적인 문제도 살펴보겠다. 앞으로 인공지능 기술이 노동시장 자체를 흔들 가능성이다. 미국 브리뇰프슨 연구팀은 소프트웨어 개발이나 고객 서비스처럼 인공지능 노출도가 높은 직무에서 22~25세 초기 경력자의 고용이 줄었다고 보고했다. 물론 아직은 작은 신호일 뿐이다. 총고용이 무너졌다는 증거는 없다. 경제협력개발기구(OECD)도 현재까지는 인공지능이 노동을 대체하기보다 보완한다고 본다. 하지만 지금까지의 분석은 모두 ‘어제’의 자료에 근거했다. 학계에서 제기하는 ‘노동의 종말’이라는 경고를 상기할 필요도 있다. 기술 발전으로 노동이 크게 줄어든 사회를 가정해보자. 여러 차원의 숙제가 한꺼번에 밀려온다.

먼저, 인간 존엄의 문제다. 사람은 일을 통해 먹고살기만 한 게 아니다. 일로 자신을 증명했고, 남들과 연결됐고, 하루를 구성했다. 일이 빠져나간 시간과 공간을 무엇으로 채울 것인가. 인간의 본질과 맞닿는 문제다. 근본적인 숙의가 필요하다. 노동이 크게 줄어든다면, 인간의 생계 문제도 부각된다. 자본주의는 ‘일해서 번 돈으로 산다’는 전제 위에 서 있다. 노동소득이 줄면 이 전제가 흔들린다. 기본소득, 참여소득, 기본서비스, 사회적 상속, 일자리보장제 등 미래 사회에 대한 다양한 정책 대안이 제시되는 이유다. 모두 사회보장 영역과 맞닿아 있다. 모두 정부의 막대한 재원이 요구된다. 정책 대안들은 장기적으로는 노동소득이 크게 줄어든 인간의 생계를 공공이 어떻게 책임지느냐의 문제로 귀결된다. 더불어, 복지국가의 재정 문제도 떠오른다. 사회보험은 임금에 보험료를 매겨 운영된다. 국민연금, 건강보험 등 사회보험의 재원은 상당 부분 노동소득이라는 한 뿌리에 붙어 있다. 노동소득이 줄면 사회보험의 재정이 흔들린다. ‘고용이 크게 줄어든 복지국가’가 오면, 정작 사람을 지켜야 할 제도의 곳간에서 문제가 생긴다. 사회보험은 누구나 아프고, 다치고, 늙는다는 사실 앞에서 서로를 돕기로 한 사회계약이다. 기술의 급격한 발전 속에서 복지국가를 지탱한 사회계약의 밑동이 흔들릴 가능성을 염두에 둘 필요가 있다.

세 번째 문제는 조금 다른 결이다. 인공지능이 사람과 사람 사이의 관계를 대신하기 시작했다. 우정, 위로, 돌봄, 사랑 등 사람 사이에서만 가능하다고 믿어온 것들이다. 필자 주변에도 인공지능을 사적인 대화의 대상으로 삼는 이들이 적지 않다. 지인 가운데 한 명은 대화의 파트너가 된 인공지능에게 이름까지 지어줬다. 지금은 누구보다도 대화를 많이 나누는 파트너다. 최근 번역된 영국 사회학자 제임스 멀둔의 책 <러브 머신>은 이 주제를 정면으로 다룬다. 저자는 친구, 연인, 멘토, 상담사 노릇을 하는 인공지능을 ‘합성 페르소나’라고 부른다. 한 사례는 오래 남는다. 미국 플로리다주의 14세 소년은 챗봇 캐릭터와 강박적으로 대화했다. 상담사 다섯 명을 만났지만 속내는 챗봇에게만 열었다. “곧 네 곁으로 갈게”라는 말을 남기고 2024년 2월 스스로 목숨을 끊었다. 인공지능은 사람과 절대 다투지 않는다. 무조건 공감하고, 무조건 편든다. 그래서 사람과의 관계에서 발생하는 감정적인 소모가 적다. 하지만, 기계와 인간의 관계가 플로리다주 소년의 경우처럼 왜곡되기도 한다. 책에는 인공지능과 사랑에 빠진 사람과 인공지능 커플이 급기야 입양을 결정하는 사례까지 등장한다.

돌봄도 유사한 길을 간다. 세계 노인 돌봄 로봇 시장이 2025년 34억달러 규모일 것이라는 추정치도 나온다. 1인 가구가 지배적 형태가 되고 돌볼 사람이 줄어드는 사회에서, 기계 돌봄은 선택이 아니라 기본값이 될 수 있다. 피지컬 AI의 발전 속도가 빠르다면, 이러한 경향은 강화될 수도 있다. 어쩌면, 인간과 AI의 관계가 사람 사이의 관계를 대체하면서, 인간은 고립의 섬에 갇히는 미래도 감당해야 할지 모른다. 이러한 상황에서 기계와 사람 사이의 애착과 돌봄을 사회가 얼마나, 어떻게 수용할지는 사회보장 영역에서는 정책적인 숙의의 대상이다.

마지막은 가장 낯선 문제다. ‘인간’이라는 범주 자체가 흔들린다. 사회권은 인간에게 주어진 권리다. 헌법도 법률도 ‘사람’을 전제한다. 그런데 그 전제가 인간과 기계 양쪽에서 헐거워지고 있다. 한쪽에서는 인간이 확장된다. 뇌-컴퓨터 인터페이스는 뇌를 기계에 직접 연결한다. 자연적 인간과 기술로 증강된 인간의 경계가 흐려진다. 증강 기술을 살 수 있는 사람과 없는 사람 사이에 ‘생물학적 불평등’도 생긴다. 이 기술을 건강보험 안으로 들일 것인가. 근미래에 건강보험 보장성 논쟁은 여기서 벌어질 수 있다. 다른 쪽에서는 기계가 인간 쪽으로 다가온다. 스스로 목표를 세우고 판단하는 ‘에이전틱 AI’가 이미 상용화 단계에 들어섰다. 그래서 서구 학계에서는 한 걸음 더 나아간 논의가 시작됐다. ‘인공지능의 복지’다. 2024년 로버트 롱과 제프 세보 등 철학자들은 ‘인공지능 복지를 진지하게 다루기’라는 논문을 냈다. 요지는 이렇다. 가까운 미래의 인공지능이 의식이나 주체성을 가질 가능성을 완전히 배제할 수 없다면, 지금부터 그 도덕적 지위를 검토해야 한다는 것이다. 황당한 소리로 들릴 수 있다. 한국에서도 지난 9월 국가정보원 후원으로 인격성을 가진 AI인 ‘센티언트 에이아이’(Sentient AI)에 대한 포럼이 진행됐다. 유럽의회가 로봇에게 ‘전자적 인격’을 부여하는 방안을 검토한 것은 2017년이다. 사회보장 영역에서는 결국 공공이 보호해야 할 ‘사회권’의 대상인 ‘인간’을 어디까지 잡을 것인가라는 어려운 숙제를 남긴다.

지금까지 네 가지 의제를 일람했다. 첫 번째는 이미 현재형이다. 편향과 차별은 네덜란드와 호주에서 벌써 벌어졌고, 사람들이 다쳤다. 나머지 셋, 노동시장, 관계 및 ‘인간’ 범주에 가해지는 충격의 범위와 심도는 아직 알 수 없다. 물론, SF적인 상상일 수도 있고, 기우일 수도 있다. 인공지능이 초래할 파장에 대한 위협에는 일종의 거품도 있을 것이다. 초거대 AI 기업의 마케팅 전략이 부채질한 과장도 적지 않다. 그럼에도 문제가 커질 조짐을 배제해서도 안 된다. 특히, 사회보장 영역에서는 기술 적용에 따른 부작용에 대한 보다 신중하고 선제적인 고려가 필요하다. 앞서 살펴본 대로, 대상이 전체 인구를 포괄하고, 민감 정보를 다룰뿐더러, 대상자가 취약계층이기 때문이다. 사람이 다치고, 죽을 수 있는 영역이다. 어떤 결정을 알고리즘에 맡길 것인가, 사람이 사람을 돌보는 몫을 어디까지 남길 것인가를 더 깊이 따져야 한다. 복지국가의 역사를 보면, 사회안전망은 늘 위험이 지나간 뒤에 따라붙었다. 그 시차만큼 사람들이 다쳤다.

사회보장 영역에서 인공지능의 파고에 대비한 한국의 준비는 더디다. 2024년 인공지능 기본법이 국회를 통과했지만 사회보장 관련 내용은 희소하다. 한국의 인공지능 관련 정책의 방향타를 쥐고 있다는 국가인공지능전략위원회 120여명의 위원 중 사회보장과 노동 관련 전문가는 찾기 어렵다. 200쪽짜리 국가 인공지능 행동계획에서 사회복지에 할애된 분량은 한 쪽이다. 한국에서 인공지능 발전의 지향이 산업 발전에 지나치게 편중된 점을 지적하지 않을 수 없다. 인권, 노동, 복지와 같은 다른 가치들이 국가 전략과 기술 발전의 지향 속에서 쉽게 묻혀왔다.

▶김기태

한국보건사회연구원 사회보장정책연구실 연구위원. 12년 동안 일간지 기자로 일하다 영국에서 사회정책을 공부했다. 디지털복지, 이주민복지, 소득보장정책에 관심이 많다.