미국 인공지능, AI 기업인 앤트로픽 연구원이 AI가 인류를 파멸시킬 수 있다는 경고와 함께 회사를 떠났습니다.
월스트리트저널은 현지시간 8일 앤트로픽을 퇴사한 연구원 27살 제이컵 콕슨가 AI 시스템 개발 경쟁을 벌이는 업계에 대해 이 같은 우려를 제기했다고 보도했습니다.
오픈AI와 앤트로픽에서 새로운 AI 모델을 학습시키는 분야를 연구해 온 콕슨은 AI 업체들이 인간의 개입 없이 스스로 성능을 개선하는 시스템을 개발하기 위해 경쟁하는 상황에서 안전 문제가 뒷전으로 밀릴 수 있다고 우려했습니다.
특히 스스로 성능을 개선하는 AI가 인간의 통제를 벗어나 명령을 거부하는 수준까지 발전할 가능성도 있다는 것이 콕슨의 주장입니다.
콕슨은 "가장 공격적인 시나리오 가운데 상당수가 현실화하는 방향으로 가고 있다"며 "내년 말이면 이미 상황이 통제 불능에 빠질 수도 있다"고 말했습니다.
콕슨은 올해 초 오픈AI를 떠나 앤트로픽에 합류했습니다.
AI 안전을 중시하는 앤트로픽의 기업 문화 때문에 이직했지만, 결국 개별 기업의 노력만으로는 AI의 위험을 통제할 수 없다고 콕슨은 지적했습니다.
그러면서 인간의 능력을 능가하는 범용인공지능(AGI)을 책임 있게 개발하기 위해서는 정부의 개입이나 AI 업계의 공동 대응이 필요하다고 강조했습니다.
콕슨은 각국 정부에 AI 개발 속도를 조절할 수 있는 국제적인 체계를 마련하라고 촉구하는 AI 업계 연구자들의 성명에도 참여했습니다.
이 성명에는 앤트로픽의 다리오 아모데이 최고경영자와 오픈AI의 야쿠프 파초키 수석과학자 등 연구자 1천여 명이 서명했습니다.
최근 AI 업계는 중국 신생 업체들의 가세로 개발 경쟁이 과열한 상황이고, 트럼프 행정부도 AI에 대한 규제를 최소화하는 정책을 추진하고 있습니다.
OBS 뉴스는 언제나 여러분의 제보를 기다립니다.
▶ 전화 032-670-5555
▶ 이메일 jebo@obs.co.kr
▶ 카카오톡 @OBS제보
댓글
0