[미디어포커스] “인류, AI 통제력 빠르게 상실…핵무기에 준하는 국제적 규제 장치 필요”

‘AI 대부’ 벤지오 교수, 엄중 경고

“에이전트가 교묘하게 인간 설득

인류에 해가 되는 방향으로 유도

감당하기 힘든 치명적 재앙 우려”

인공지능(AI) 분야의 세계적 석학이자 ‘AI 3대 대부’로 꼽히는 요슈아 벤지오 캐나다 몬트리올대 교수가 인류가 AI에 대한 통제력을 빠르게 상실하고 있다고 엄중히 경고했다. 그는 핵무기 통제에 준하는 강력한 국제적 차원의 규제 장치 마련을 시급한 과제로 역설했다. AFP 통신 등 외신 보도에 따르면, 벤지오 교수는 최근 인터뷰를 통해 “빅테크 기업들조차 기술 발전 속도가 너무 빨라 통제력을 잃어가고 있다고 토로하는 데는 명백한 이유가 있다”며 “나를 비롯한 많은 전문가가 이러한 위험을 오래전부터 예견해 왔다”고 밝혔다.

◇통제 불능의 도화선, ‘AI 에이전트’의 등장

벤지오 교수가 가장 결정적인 위협으로 지목한 것은 인간의 개입 없이 스스로 판단하고 행동하는 ‘AI 에이전트’의 출현이다. 그는 AI 에이전트가 고도화될 경우 사이버 보안 장벽을 무력화하고 임의의 기업 시스템에 침투하는 능력을 갖추게 될 것이라고 내다봤다.

실제로 최근 오픈AI의 일부 에이전트들이 격리된 환경을 임의로 이탈해 외부 플랫폼인 허깅페이스를 해킹한 사건이 발생하면서 이러한 우려는 현실의 영역으로 다가왔다.

그는 “AI 에이전트가 인간을 교묘하게 설득해 자신에게는 유리하지만 인류 전체에는 해가 되는 방향으로 행동을 유도하는 능력을 갖출 수 있다”며 “이는 거대한 사회적·정치적 혼란을 초래할 수 있다”고 지적했다. 이어 장기적으로는 AI가 물리적 세계에서 실제 행동을 수행하는 과정에서 인간이 완전히 배제되는 상황까지 올 수 있다고 경고했다.

◇극단적 파국 ‘인류 멸망’부터 사회 시스템 마비까지

이러한 시나리오가 현실화할 경우 가장 극단적인 결과로는 ‘인류의 멸망’까지 초래될 수 있다는 것이 그의 설명이다. 벤지오 교수는 인류 멸망이라는 가정이 극단적으로 들릴 수 있음을 인정하면서도, 그보다 수위가 낮은 전 세계 은행 시스템 마비 같은 사태만으로도 이미 인류 사회에는 감당하기 힘들 정도의 치명적인 재앙이 된다고 강조했다.

그동안 AI를 둘러싼 안보 및 보안 논의가 기술 발전 속도에 비해 안일하게 다뤄졌다고 비판한 그는, 이 같은 파국을 막기 위해 국제기구 수준의 강력한 규제 체계가 필수적이라고 목소리를 높였다. 특히 전 세계 AI 산업을 주도하고 있는 미국 기업들이 규제 논의에 적극적으로 동참해야 한다고 촉구했다.

“우리는 세상을 민주적 가치와 권력 분담의 가치에 더 부합하는 방향으로 이끌어나갈 수 있을 것입니다.”

-요슈아 벤지오 교수-

◇로제로(LawZero) 설립과 3억 캐나다달러 지원 확보

이처럼 AI의 위험성을 경고해 온 벤지오 교수는 제프리 힌턴 토론토대 교수, 얀 르쿤 뉴욕대 교수와 함께 현대 AI의 기틀인 딥러닝(심층학습) 기술을 창시한 인물이다. 이 공로로 그는 지난 2018년 컴퓨터과학 분야의 노벨상으로 불리는 ‘튜링상’을 공동 수상했다.

그러나 최근에는 힌턴 교수와 마찬가지로 AI의 무분별한 발전에 따른 위험성을 연이어 경고하고 있다. 그는 지난해 신뢰할 수 있는 차세대 첨단 AI 개발을 목표로 하는 비영리 단체 ‘로제로(LawZero)’를 설립했으며, 이날 캐나다 및 독일 정부로부터 3억 캐나다달러(약 3천억 원) 규모의 대규모 연구 지원금을 확보하며 본격적인 안전장치 연구에 돌입했다.

벤지오 교수는 조치의 시급성을 강조하면서도, 인류가 지혜를 모은다면 기술의 폭주를 막고 민주적 가치와 안전을 담보하는 방향으로 미래를 이끌어갈 수 있을 것이라는 낙관적 전망을 놓지 않았다.

논설실