[금주의인물] 다리오 아모데이 앤트로픽CEO "AI 신기술, 안전성 확보할 '속도' 조절해야"

[편집자주] <주간한국>은 창간 초기부터 ‘금주의 인물’이란 기획을 통해 매주 시대의 얼굴을 기록했습니다. 정치, 문화, 예술, 사회 각계의 인물들이 한 주의 이슈와 함께 지면을 장식했습니다. ‘금주의 인물’은 단순한 인물 소개를 넘어 시대를 살아가는 사람들의 선택과 갈등, 그리고 역사의 흐름을 생생하게 담아내며 독자들의 사랑을 받았습니다. 이번 주 소개할 인물은 생성형 인공지능(AI) ‘클로드’를 개발한 앤트로픽의 공동창업자이자 최고경영자(CEO) 다리오 아모데이입니다.

다리오 아모데이 앤트로픽 CEO. 사진=로이터 연합뉴스

[주간한국 신민성 기자] 인공지능(AI) 기술이 빠르게 발전하면서 기술을 어디까지 개발하고 어떻게 통제할 것인지가 중요한 과제로 떠오르고 있다. AI를 만드는 데 집중해 온 업계에서는 기술의 위험을 먼저 살펴야 한다는 목소리도 나온다. 생성형 AI ‘클로드’를 개발한 앤트로픽의 다리오 아모데이 최고경영자(CEO)는 AI의 발전 가능성을 인정하면서도 안전성을 확보할 시간을 마련해야 한다고 주장했다.

오픈AI 연구자에서 AI 개발속도 조절까지

아모데이는 과학을 연구하던 학자에서 세계적인 AI 기업을 이끄는 경영자로 성장했다. 미국 프린스턴대에서 물리학을 공부한 뒤 생물물리학 박사학위를 받았다. 이후 스탠퍼드대 의과대학에서 연구를 이어갔고 구글 브레인에서 AI 연구에 참여하면서 AI 분야로 활동 영역을 넓혔다.

2016년에는 오픈AI에 합류했다. 대규모 AI 모델 연구에 참여했고 GPT-2와 GPT-3 개발 과정에서도 주요 역할을 맡았다. AI 모델의 성능을 높이는 방법뿐 아니라 사람이 AI의 답변을 평가해 학습에 반영하는 기술 등 AI의 학습과 안전에 관한 연구도 진행했다.

2021년에는 동생 다니엘라 아모데이, 오픈AI 출신 연구자들과 함께 앤트로픽을 공동 창업했다. 앤트로픽은 AI의 성능뿐 아니라 안전성과 신뢰성을 중요하게 여기는 기업이다. 이후 대화형 AI 서비스 클로드를 선보이며 오픈AI의 챗GPT 등과 경쟁해 왔다. 클로드는 질문에 답하는 기능을 넘어 글쓰기와 문서 분석, 코딩 등 다양한 작업에 활용되고 있다.

AI 개발을 직접 이끌어 온 아모데이가 기술 발전 속도를 조절해야 한다고 주장하는 이유는 AI의 능력이 빠르게 향상되는 데 비해 위험을 관리할 방법은 충분히 마련되지 않았다고 보기 때문이다. 그는 지난달 12일 공개한 글(최첨단 AI 개발 속도를 조절해야 한다)에서 AI 모델의 성능을 높이는 속도를 늦출 필요가 있다고 주장했다. AI 개발을 중단하자는 것이 아니라 기술이 발전하는 동안 위험을 확인하고 대응책을 마련할 시간을 확보하자는 취지다.

아모데이가 우려하는 위험 중 하나는 AI를 이용한 사이버 공격이다. AI가 컴퓨터 코드를 작성하고 여러 작업을 이어서 수행할 수 있게 되면 해킹에 필요한 기술적 장벽이 낮아질 수 있다. AI가 사람의 지시를 받아 움직이는 수준을 넘어 스스로 여러 작업을 수행하게 되면 예상치 못한 행동을 하거나 악용될 가능성도 있다. 아모데이는 AI가 인간의 통제를 벗어날 위험과 생물학적 위험에도 주목해 왔다.

그는 AI의 위험에 대응하기 위한 방안으로 세 가지를 제안했다. 첫째, 외부 전문가의 독립적인 평가다. AI 기업 내부의 담당자뿐 아니라 외부 전문가도 개발 과정과 AI 모델의 위험을 살펴볼 수 있도록 하자는 것이다. 둘째, AI 기업 간 안전 기준을 마련하는 것이다. 기업들이 경쟁에서 앞서기 위해 개발 속도를 높이다 보면 안전성 확인이 뒤로 밀릴 수 있다. 마지막으로 셋째는 국가 간 협력이다. AI 기술은 국경을 넘어 활용되는 만큼, 한 기업이나 한 국가의 노력만으로 위험을 관리하기 어렵다는 판단이다.

아모데이의 제안에는 다른 AI 기업 경영진도 지지를 표했다. 오픈AI의 샘 올트먼 CEO는 최첨단 AI 개발 속도를 조절해야 한다는 주장에 동의하고 외부 평가를 강화하는 방안에도 지지 의사를 밝혔다. 일론 머스크 테슬라·스페이스X·xAI CEO도 아모데이의 제안에 공개적으로 동의했다. 다만 개발 속도를 늦추는 방안이 실제로 어떻게 적용될지는 과제로 남아 있다. 기업들이 더 뛰어난 AI 모델을 개발해야 시장에서 경쟁력을 확보할 수 있기 때문이다. 기술 발전을 지나치게 제한하면 새로운 기술의 등장과 활용이 늦어질 수 있다는 우려도 있다.

지난달 29일 미국 백악관에서 열린 AI 업계 CEO 오찬 이후 도널드 트럼프 대통령이 젠슨 황 엔비디아 최고경영자(CEO), 일론 머스크 테슬라 CEO 등 관계자들과 취재진에게 발언하고 있다. 사진=로이터 연합뉴스

국방부와 충돌한 앤트로픽…백악관 합의에도 남은 과제

아모데이가 강조해온 AI 안전 문제는 미국 정부와의 갈등을 거치며 국가 안보 문제로까지 확대됐다. 갈등의 핵심은 AI를 군사 분야에 어디까지 활용할 수 있는지 기업이 자사 기술의 사용 범위를 제한할 수 있는지다. 앤트로픽은 자사 AI 모델 클로드가 완전 자율 무기나 대규모 감시에 사용되는 데 제한을 둬야 한다는 입장을 유지했다. 완전 자율 무기는 사람이 공격 대상을 직접 선택하거나 공격을 결정하지 않아도 작동하는 무기를 말한다.

반면 미국 국방부는 군사 작전과 국가 안보 분야에서 AI를 폭넓게 활용할 수 있어야 한다는 입장을 보였다. 양측은 AI 사용 제한의 범위를 놓고 협상했지만 합의에 이르지 못했다. 갈등은 지난 3월 미국 국방부가 앤트로픽을 국가 안보 공급망 위험 기업으로 지정하면서 시작됐다. 미국 국방부는 앤트로픽의 사용 제한이 군사 분야에서 AI를 활용하는 데 위험이 될 수 있다고 판단했고, 앤트로픽은 이에 반발해 법적 대응에 나섰다.

앞서 캘리포니아 연방법원은 지난 8월 국방부가 앤트로픽에 내린 일부 제재 조치가 위법하다고 판단했다. 그러나 지난달 25일 미국 워싱턴DC 연방항소법원은 별도의 소송에서 국방부가 앤트로픽을 국가 안보상 공급망 위험으로 지정한 조치가 적법하다고 판단하고, 앤트로픽의 청구를 기각했다. 앤트로픽은 항소법원의 판단에 동의하지 않는다며 추가적인 법적 대응을 검토하고 있다.

아모데이는 지난달 말 백악관에서 도널드 트럼프 미국 대통령을 만났다. 지난달 29일에는 주요 AI 기업 경영진이 참석한 백악관 오찬에도 자리했다. 주요 AI 기업들은 자체 안전 관리 절차를 강화하고 외부 전문가의 평가를 받는 등의 내용이 담긴 자율 관리 원칙에 합의했다. 합의가 실제 안전 강화로 이어질지는 아직 분명하지 않다. 외부 평가자가 기업 내부 자료와 개발 과정에 어디까지 접근할 수 있는지, 또한 평가 결과를 얼마나 자유롭게 공개할 수 있는지, 기업이 원칙을 지키지 않을 경우 어떤 조치를 할 것인지 등이 구체적으로 정해져야 하기 때문이다.

결국 AI 산업의 과제는 기술 발전과 안전성 확보를 어떻게 함께 이뤄낼 것인지에 있다. 기업과 정부가 위험을 미리 확인하고 문제가 발생했을 때 대응할 방법을 마련할 수 있어야 한다. 뿐만 아니라 AI 개발 경쟁이 이어지는 가운데 안전 기준을 구체적으로 정하고 그 이행을 확인할 체계를 갖추는 일이 중요해지고 있다.

신민성 기자 tls3530@hankooki.com