2023년 6월 9일 서울 영등포구 63스퀘어에서 열린 K-Startups meet OpenAI 행사에서 샘 알트만 오픈AI 최고경영자가 이영 중소벤처기업부 장관과 스타트업과 글로벌 AL 기업간 협업 등에 대해 간담회를 하고 있다. /뉴시스
샘 알트먼 오픈AI 최고경영자(CEO)와 다리오 아모데이 앤트로픽 CEO가 23일(현지시간) 뉴욕에서 유엔 안전보장이사회(안보리)가 '인공지능(AI)과 국제 안보'를 주제로 연 고위급 브리핑에서 AI 위험 평가와 사고 보고를 위한 국제 기준 마련을 촉구했다.
알트먼 CEO는 "AI 시스템의 능력과 자율성이 커지면 우리 제도보다 빠르게 움직이거나, 권력을 소수의 손에 집중시키거나, 사람들이 이해하거나 통제할 수 없는 결정을 내릴 수 있다"고 말했다.
이어 "이러한 우려는 스스로를 개선하고 미래 버전까지 개선할 수 있는 시스템, 흔히 '재귀적 자기개선'이라고 부르는 시스템에 가까워질수록 더욱 중요해진다"며 "AI를 만드는 과정이 자동화될수록 AI 발전 속도는 급격히 빨라질 수 있다"고 했다.
그는 "AI에 미래의 통제권을 빼앗길 수 있다"며 "AI가 너무 빠르게 발전하면 사람들이 무슨 일이 벌어지는지 따라가지 못하거나, 필요할 때 개입할 수 없게 될 위험이 있다"고 우려했다.
그러면서 "각국이 증거를 비교하고 기준 준수 여부를 검증하며, 무슨 일이 일어나는지 공통의 언어와 이해를 가질 수 있도록 공통 표준이 필요하다"고 말했다.
이어 "실패가 재앙이 되기 전에 세계가 교훈을 얻을 수 있도록 정확하고 신속한 사고 보고와 사고 분류·보고 절차가 필요하다"며 "정부, 주요 기반시설 운영자, 기술 전문가 사이에 새로운 취약점과 위협을 공유할 안전한 채널이 필요하다"고 했다.
알트먼은 AI의 발전 방향을 누가 결정할지에 대해 "기업이 민주적 절차를 대신해서는 안 된다는 점이 매우 중요하다"며 "가장 중요한 결정이 샌프란시스코의 연구소들에서만 내려져서는 안 된다"고 말했다. 국가·국제 차원의 최첨단 AI 표준에 대해서는 "(이러한) 표준은 기존 사업자의 지위를 굳히거나 특정 사업 모델을 다른 모델보다 우대해서는 안 된다"고 말했다.
아모데이는 "어떤 지도자도, 기업도, 국가도 이 문제를 혼자 관리할 수 없다"며 국가 간 약속 이행을 확인할 검증 체계와 국제 안보에 중대한 사고 통보 체계를 제안했다.
AI 연구자인 요슈아 벤지오 유엔 AI 독립과학패널 공동의장은 독립 전문가의 안전성 검증과 최첨단 AI 허가제, 책임보험 의무화를 촉구했다.
앞서 오픈AI는 지난 16일과 21일, 22일 자사 홈페이지에 AI 안전에 관한 글을 잇따라 올렸다. 16일에는 '모델 오정렬 사례 보고 체계'에서 조사·공개 절차를 설명하고, 훈련·평가 과정에서 관찰한 모델의 예상 밖 행동을 다룬 보고서 6건을 함께 공개했다. 21일 글에서는 미국이 각국과 함께 최첨단 AI의 국제 기술 기준 마련을 주도해야 한다고 주장했다. 기준에는 모델의 능력 측정·위험 평가, 자동화된 AI 연구에 대한 인간의 감독, 사고 분류·보고 절차 등을 담자고 제안했다. 한국 등 AI 안전 관련 기관이 설립된 나라를 예로 들며, 그 기관들의 연결망을 기준 마련에 활용하자고 했다. 22일 글에서는 외부 평가자가 안전성 주장과 보호장치를 검증하도록 훈련·평가·배포 과정에 대한 접근을 지원하겠다고 밝혔다.
한편 안보리 고위급 브리핑이 열린 23일(현지시간), 앤서니 앨버니지 호주 총리는 뉴욕에서 별도로 기자회견을 열고 오픈AI의 AI 에이전트가 6월 18일 호주의 공공 의료보장제도 '메디케어'의 통계 조회 포털에 무단 접근했다고 밝혔다.
앨버니지 총리는 오픈AI가 지난 10일에야 정부의 일반 공개 이메일 주소로 통보했다며 "회사가 정부에 알리는 데 너무 오래 걸렸고, 통보 방식도 용납할 수 없었다"고 말했다. 그는 알트먼과 통화해 "이번 사건에 대한 호주의 극도의 우려를 전했다"며 "현 단계에서는 개인정보에 접근한 것으로 보이지 않지만, 조사는 계속되고 있다"고 했다.
댓글
0