허위생성·개인정보 남용 등 예방
공정성·포용성 등 7대 초안 마련
市직원 공유… 전문가 자문 예정
인천시청 전경. /인천시 제공
인공지능(AI) 기술이 급속히 발전하면서 인간을 위협한다는 우려가 나오는 가운데 인천시가 선제적으로 행정 분야 AI 활용 윤리 지침을 마련하고 나섰다. 행정서비스 업무 과정에서 AI를 활용할 때 허위정보를 생성하거나 개인정보가 유출되는 것을 막기 위한 방안이다.
16일 인천시에 따르면 시는 최근 ‘인천시 인공지능 활용 윤리 지침’ 초안을 마련하고 행정서비스 분야에 적용할 예정이다. 지난 4월 인천연구원에 의뢰해 얻은 AI 윤리 지침 연구 결과를 바탕으로 행정 영역에서 활용하는 생성형 AI 등을 윤리적으로 활용하기 위한 취지다.
최근 글로벌 빅테크 기업과 AI 전문가들 사이에서 ‘AI 속도 조절론’이 불거진 가운데 인천시가 행정 분야 AI 활용 윤리 지침을 마련하고 나선 것은 주목할 만하다. AI 기술이 예상보다 빠른 속도로 발전하면서 인간이 통제할 수 없는 수준에 이를 경우 인류에 미칠 파장이 크다는 우려다. 공공부문에서는 지방정부가 정책 의사결정을 내리기 위해 AI를 활용하다가 검증되지 않은 허위 정보가 영향을 미치거나, 개인 정보가 남용될 위험도 있다.
인천시는 이 같은 문제를 예방하기 위해 지난해부터 인천연구원과 협업해 윤리 기준 도입 방안을 준비했다. 인천연구원은 올해 4월 AI 활용 윤리 지침 연구를 시작해 국내외에서 활용되는 AI 윤리 가이드라인을 분석하고 행정 분야 특성을 반영한 AI 행정서비스 활용 기준을 마련했다.
지침 초안에 명시된 7대 AI 활용 원칙은 ▲인간중심성 ▲프라이버시 보호 ▲공정성·포용성 ▲책임성 ▲안전성 ▲신뢰성 ▲투명성이다. 행정 업무 과정에서 AI에 과도하게 의존하는 문제를 방지하고, 부서 단위로 AI 사용 이후 사후관리 조치 등을 마련하는 내용이 담겼다. AI를 통해 생성한 결과물을 인천시 명의로 공표할 경우 저작권 귀속 여부, 공공 분야 사용 범위 등을 확인하는 절차가 대표적인 예다.
또 디지털 접근성이 낮은 시민이나 도서·접경지역 주민 등 AI 활용에 익숙하지 않은 민원인이 행정서비스를 이용하는 과정에서 차별받지 않도록 하는 방안을 마련해야 한다는 조항도 포함됐다.
AI 활용 윤리 지침은 인천시 소속 공무원은 물론 산하 공사·공단과 출자·출연기관 전 직원에게 적용된다. 인천시는 오는 30일 전 직원을 대상으로 AI 활용 윤리 지침안을 공유하고 전문가들을 초빙해 행정 분야 AI 활용 방안에 대한 자문을 구하는 토론회를 개최할 예정이다.
인천시 관계자는 “과학기술정보통신부와 행정안전부가 최근 AI 활용 권고안을 마련했는데, 인천시 지침과 어긋나는 부분이 없는지 확인하는 단계”라며 “지침 적용 대상인 인천시와 산하기관은 물론 11개 군·구에도 윤리적인 AI 활용 방안에 대한 공감대를 확산할 계획”이라고 했다.
/한달수기자
댓글
0