빌 게이츠 마이크로소프트(MS) 공동창업자. 연합뉴스
마이크로소프트(MS) 공동창업자 빌 게이츠가 인공지능(AI)의 악의적 이용으로 대규모 인명 피해가 발생할 수 있다며 기업의 자율규제를 넘어선 정부 차원의 법적 안전장치가 필요하다고 촉구했다.
27일(현지시간) 미국 NBC뉴스 등에 따르면 게이츠는 시사 프로그램 ‘미트 더 프레스’ 인터뷰에서 최신 AI 기술이 악의적인 주체에게 이용되면 최대 10억명이 희생되는 재앙으로 이어질 수 있다고 짚었다.
이는 구체적인 피해 규모를 예측한 결과라기보다 AI가 생물학적 공격이나 대량살상 수단에 활용되는 최악의 상황을 가정한 경고다. 게이츠는 AI가 기존 무기보다 훨씬 강력한 위협이 될 가능성을 배제할 수 없다고 강조했다.
그는 이 같은 위험을 AI 개발기업의 판단에만 맡겨서는 안 된다고 주장했다. 기업이 자체적으로 안전 기준을 마련하는 것만으로는 충분하지 않으며, 정부와 정치권이 법률과 감독체계를 통해 개입해야 한다는 것이다.
게이츠는 “자율규제만으로 충분하다고 생각하는 사람은 없다”는 취지로 말하며 수사기관과 입법기관이 AI의 안전 기준을 세우고 준수 여부를 감독해야 한다고 밝혔다.
다만 게이츠가 AI 기술의 개발이나 활용 자체를 부정적으로 평가하는 것은 아니다. 그는 최근 열린 게이츠재단 행사에서 AI를 보건과 교육, 농업 문제 해결에 활용해야 한다고 전했다. 게이츠재단은 관련 기업·기관과 협력해 의료와 교육 분야의 AI 사업에 10억달러를 투입할 계획이다.
AI의 효용을 확대하되 악용 가능성과 대규모 피해 위험에는 구속력 있는 통제 장치를 마련해야 한다는 게 게이츠의 입장이다.
미국에서는 AI 규제의 방향을 둘러싼 논쟁도 이어지고 있다. 도널드 트럼프 미국 대통령은 필요할 경우 법무부가 AI 기업에 개입할 수 있다고 밝히면서도, 새로운 규제로 기술 개발 속도를 늦추는 데는 부정적인 태도를 보였다. AI 안전성을 이유로 강력한 규제를 요구하는 목소리에 대해서도 과도한 우려라는 입장이다.
반면 AI 업계 일각에서는 국제적으로 통용되는 안전 기준이 필요하다는 주장이 나온다. 오픈AI는 최근 미국 정부가 최첨단 AI와 스스로 성능을 개선하는 시스템에 관한 국제 기술표준 마련을 주도해야 한다고 제안했다. AI 사고 보고와 안전성 평가 기준을 통합할 필요가 있다는 설명이다.
미국과 중국도 AI의 전략적 중요성과 안전관리 필요성에 공감하고 관련 논의를 이어가기로 했다. 앞으로 AI 규제는 기업의 자율적인 안전조치와 국가별 법률, 국제 공조체계를 어떤 방식으로 결합하느냐가 핵심 쟁점이 될 전망이다.
배준열 기자 jun@kukinews.com
X
Kakao
link
댓글
0