[AI와 인류⑤] 'AI 규범의 길' 들어선 韓… 'K-거버넌스' 이정표 세우나

한국 ‘중간지대 거버넌스’ 시험대 서다

미·EU 규제 전쟁 속 ‘제3의 길’ 선택

“AI 윤리 확보 논의, 오래전부터 지속”

국가 차원 ‘컨트롤 타워’ 부재 지적

“실질적인 윤리 안전장치 마련 시급”

생성형 AI의 등장은 기술 혁신을 넘어 사회 구조 자체를 바꾸고 있다. 이제 AI는 선택 가능한 도구가 아니라 전기·통신처럼 작동하는 사회 인프라가 됐다. 이 거대한 전환 속에서 국가의 역할, 기업의 책임, 시민의 권리는 어떻게 재정립돼야 할까. 세계는 기술 경쟁과 함께 위험 관리와 책임 설계를 둘러싼 논쟁을 이어가고 있다. 천지일보는 6회 연재를 통해 AI 거버넌스의 방향과 한국의 전략을 점검하고 그 끝에서 ‘인류 공영’이라는 미래 가능성을 모색한다.

[천지일보=황해연 기자] 세계적인 AI 기술력을 보유한 대한민국이 이제 ‘기술 강국’을 넘어 글로벌 AI 질서를 설계하는 규범 국가로의 전환을 시험받고 있다.

한국은 삼성, LG, 현대 등 대기업뿐 아니라 중소기업과 스타트업들이 혁신적인 AI 기술을 선보이며 AI 글로벌 리더로 도약하고 있다. 특히 5G, 빅데이터 인프라를 적극 활용해 AI 기술을 실생활에 빠르게 적용하며 스마트폰, 스마트홈, 자율주행차 등에서 활발한 상용화를 이뤄냈고 AI 반도체 기술의 발전은 한국의 경쟁력을 강화하는 핵심 요소로 자리 잡았다.

하지만 AI 기술 발전 속도가 놀라운 반면 그에 맞는 법적·윤리적 논의는 상대적으로 더디게 진행되고 있다. 기술 혁신의 속도에 걸맞은 사회적 합의와 법적 토대를 마련하는 일은 이제 선택이 아닌 생존의 문제다.

한국이 제시할 ‘중간지대 AI 모델’은 인류 공영을 향한 글로벌 AI 거버넌스의 중요한 이정표가 될 전망이다.

특히 지난 1월 22일 대한민국은 전 세계 AI 역사에 굵직한 한 획을 그었다. 유럽연합(EU)보다도 앞서 세계 최초로 ‘AI 발전과 신뢰 기반 조성에 관한 기본법(AI기본법)’을 전면 시행한 국가가 된 것이다. 이는 기술 강국을 넘어 기술이 나아가야 할 방향을 제시하는 ‘규범 국가’로서 첫발을 내디딘 것을 의미한다.

이에 대해 이상규 정보통신정책연구원(KISDI) 원장은 “AI 기술 진흥과 함께 안전하고 신뢰할 수 있는 활용을 위한 법적 근거가 마련됐다는 점에서 매우 중요한 의미를 갖는다”고 강조했다.

선지원 한국인터넷윤리학회 회장도 “AI기본법은 성장동력으로서의 AI 발전을 위한 기반을 확충하고 AI 산업을 진흥하기 위한 법률”이라면서도 “AI 기반 서비스의 윤리와 신뢰성 확보를 위한 규정도 포함하고 있다”고 말했다.

문광진 목포대학교 법·경찰학부 교수도 “AI 기본법 제정·시행의 목적은 단순 기술과 산업의 발전이라는 과제만을 목표하는 게 아니라 모든 사회구성원의 존엄과 가치를 바탕으로 안전하고 신뢰할 수 있는 AI 기술과 사회를 구현하기 위한 것”이라고 진단했다.

AI 관련 이미지. (출처: 게티이미지뱅크)

◆세계 최초 ‘AI 기본법’ 시행… “AI 강국 도약 초석 마련”

그간 글로벌 AI 질서는 혁신과 자본력을 앞세워 시장을 선점하려는 미국의 ‘자율 규제’ 모델과 강력한 법적 장치로 인권과 안전을 최우선시하는 EU의 ‘강력 규제’ 모델로 양분돼 왔다. 이 거대한 양대 축 사이에서 한국은 ‘기술 주권(Sovereign AI)’을 지키면서도 시민의 안전을 보호하는 독자적인 ‘제3의 길’을 선택했다.

이번 AI 기본법의 핵심은 산업 진흥을 강력히 뒷받침하되 고영향 AI(의료, 금융, 행정 등) 분야에 대해 위험 기반 규제 체계를 확립한 것이다. 이는 단순히 기술 발전을 억제하는 것이 아니라 예측 가능한 시장을 만들어 기업들이 안심하고 투자할 수 있는 환경을 조성하겠다는 의지다.

이상규 원장은 이번 AI 기본법 시행을 두고 “투명성 및 안전성 확보 의무, 고영향 AI에 대한 관리·감독체계, 이용자 권익 보호 등을 제도화함으로써 대한민국이 책임 있는 AI 강국으로 도약하기 위한 초석이 마련됐다”며 “단순 법적 규율의 문제를 넘어 그동안 국제사회 및 국내에서 심도 깊게 논의해 왔던 AI 윤리 원칙과 기준이 법제도 틀 안에서 구현하고자 하는 시도라는 점에서 의미가 깊다”고 말했다.

◆‘진흥’에 치우친 법안… ‘윤리’는 권고뿐

급속하게 바뀌는 AI 기술 발전에 비해 법적·윤리적 논의는 여전히 뒤처지고 있다는 지적이 끊이지 않고 있다. 현재의 AI 기본법은 기술 촉진에 중점을 두고 있어 AI의 편향성, 프라이버시 문제, 책임소재 등에 대한 구체적인 법적 규제는 부족한 실정이다.

문광진 교수는 “AI는 기술의 특성상 인간과의 상호 작용성을 특징으로 한다는 점에서 AI 윤리에 대한 논의는 무한하게 확장되고 있다”며 “AI 기본법이 제정되기 오래전부터 AI 윤리에 관한 논의는 뜨겁게 진행돼 왔다”고 설명했다. 그는 “지금으로부터 10년 전에도 AI 개발 및 활용 기업 차원에서 AI 윤리 확보를 위한 논의가 진행됐고 국가 또는 국제기구 차원에서도 마찬가지였다”고 부연했다.

현재 과학기술정보통신부, 방송미디어통신위원회, 개인정보보호위원회 등 각 부처가 각자의 목적(진흥·보호·보안)에 따라 AI 위원회를 운영 중이지만 이를 통합 관리할 국가 차원의 ‘AI 윤리 컨트롤 타워’는 부재한 실정이다. 이들이 내놓은 가이드라인 역시 법적 구속력이 없는 ‘권고’에 그쳐 실효성 논란이 제기된다.

AI 기술이 사회적 불평등을 초래하거나 개인정보를 침해할 가능성이 있는 만큼 사회적 논의와 국민적 합의가 반드시 선행돼야 한다. AI 개발자와 사용자의 책임소재를 명확히 하고 소수자나 여성에 대한 불공정한 판별 등 AI의 결정이 인권에 미치는 부정적 영향을 최소화할 법적·윤리적 장치가 시급하다.

이에 AI 기술의 불확정성·유동성에 대비해 발생할 위험을 발견하고 해결할 수 있는 조직·절차 구체화의 필요성도 제기됐다. 김휘홍 KISDI 부연구위원은 “AI로 인해 앞으로 우리 기본권은 위협을 받게 될 것”이라며 “정책·입법을 통해 어느 정도 안전장치를 만들어야 한다”고 제언했다.

김 부연구위원은 국가AI전략위원회(AI전략위) 산하 전문기구로 ‘AI 기본권 보호 자문단’을 설치해야 한다고도 제시했다. 이해관계인의 참여와 청문 기회를 보장하고 결정 기준과 과정의 예측 가능성을 확보해 위험성을 줄이자는 것이다.

AI 기본법상 AI전략위는 진흥 부처 소관이기 때문에 각자 추구하는 가치가 다르고 이에 이해 상충 문제가 발생할 수 있다는 이유에서다. 대통령 직속으로 설치된 AI전략위는 대한민국의 AI 경쟁력을 세계 3대 강국으로 끌어올리기 위한 ‘국가 전략 컨트롤 타워’일 뿐 AI 윤리 문제를 해결하는 기구는 아니다.

결국 이러한 내부적인 진통과 윤리적 공백을 어떻게 메우느냐가 관건이다. 국내적인 사회적 합의를 성공적으로 이끈다면 한국은 비로소 글로벌 무대에서 진정한 ‘중재자’로서의 명분을 얻게 될 것이다.