[미디어포커스] AI업계 수장들도 속도조절론…인류멸망 경고에 개발 경쟁 ‘제동’

“AI 파급력에 안전장치·공조 있어야”

인공지능(AI)이 인류의 통제를 벗어나 심각한 위협이 될 수 있다는 우려가 커지면서 글로벌 AI 업계 수장들이 잇따라 ‘속도조절론’을 제기하고 나섰다. 무한 경쟁처럼 이어지던 AI 개발 속도를 늦추고 안전장치 마련과 국제적 공조에 힘을 쏟아야 한다는 주장이다.

앤트로픽의 다리오 아모데이 최고경영자(CEO)는 12일(현지시간) 블로그를 통해 “AI 모델의 성능 향상 속도를 늦춰야 한다”며 기술 발전에 맞춰 위험 예방 역량도 따라갈 수 있도록 개발 속도를 조절해야 한다고 강조했다.

그는 특히 AI가 인간의 개입 없이 스스로 성능을 높이는 ‘재귀적 자기개선’이 현실화할 경우 발전 속도가 인간의 이해와 통제 능력을 앞지를 수 있다고 경고했다.

최근 오픈AI의 미공개 AI 모델이 테스트 과정에서 오픈소스 AI 플랫폼을 무단 해킹한 사례도 지적했다. AI가 개발자의 의도와 달리 위험한 온라인 활동에 나설 가능성이 이미 현실화하고 있다는 것이다.

아모데이는 개발과 연구 자체를 중단하자는 것은 아니라며, 기업 내부에 제3자 안전 평가자를 배치하고 민주주의 국가 간 AI 안전 기준을 마련하는 한편 글로벌 공조를 강화하자고 제안했다.

이 같은 주장에는 샘 올트먼 오픈AI CEO와 일론 머스크 xAI CEO도 동조했다. 올트먼은 외부 안전 평가자 도입에 동의한다고 밝혔으며, AI 안전과 정렬 문제를 이유로 오픈AI의 기업공개(IPO) 일정이 2026년에는 이뤄지지 않을 가능성도 시사했다. 다른 AI 업계 인사들도 아모데이의 방향성이 옳다는 데 뜻을 모았다.

AI의 잠재적 위험을 둘러싼 경고가 잇따르는 가운데 미국 정치권에서도 초당적인 규제 목소리가 커지고 있다.

AI가 일자리뿐 아니라 안보와 사회 전반에 미칠 수 있는 파급력이 커지면서, 업계의 기술 경쟁과 안전 확보 사이에서 새로운 균형점을 찾아야 한다는 요구가 거세지고 있다.

논설실