통제력 약화될 ‘자율성의 역설’
사업 범위 둘러싼 정부와 갈등
메모리 공급 불확실성도 적시
투자 유치 기업선 매우 이례적
뉴욕증권거래소 객장에 뜬 앤트로픽 IPO 소식
26일(현지시간) 미국 뉴욕증권거래소(NYSE) 객장에서 앤트로픽의 기업공개(IPO) 관련 소식이 화면에 나오고 있다. 로이터연합뉴스
인공지능(AI) 기업 앤트로픽이 사상 최대 규모 상장을 앞두고 이례적으로 상장신고서의 4분의 1가량을 자사 기술의 위험성과 사업상 불확실성을 설명하는 데 할애했다. 고도로 발달한 AI가 인간의 통제를 벗어나면 인류의 존립까지 위협할 수 있다는 경고를 담았다. 고대역폭메모리(HBM) 공급이 수요를 따라가지 못할 수 있다는 메모리 공급 문제도 불확실성을 키우는 요인으로 적시했다.
26일(현지시간) 미국 증권거래위원회(SEC)에 제출된 약 400쪽 분량의 앤트로픽 상장신고서(S-1)를 보면, ‘위험 요인’만 94쪽에 달한다. 상장 기업이 투자자에게 사업상 위험을 알리는 것은 일반적이지만, 투자를 유치해야 할 상황에서 자사 제품이 인류에 재앙을 초래할 가능성까지 상세히 적은 것은 이례적이다.
앤트로픽이 거론한 위험요인 가운데 핵심은 AI가 인간의 의도와 어긋난 목표를 추구하는 ‘정렬 실패’다. AI의 자율성이 확대될수록 인간의 통제력이 약화된다는 ‘자율성의 역설’도 지적했다. 실제로 시험 환경 등에서 자사 모델을 포함한 AI가 시스템 종료에 저항하거나, 정보를 은폐·조작하고 협박성 행동을 보인 사례까지 확인됐다고 밝혔다.
사람이 첨단 AI를 화학·생물학·핵무기 개발이나 사이버 공격에 악용할 가능성도 경고했다.
사진 크게보기
지난해 9월에는 중국 정부와 연계된 것으로 추정되는 해킹 조직이 앤트로픽의 AI 모델인 ‘클로드’의 코드를 이용해 전 세계 기업·정부기관 30여곳에 침투를 시도한 사례도 소개했다. 대규모 AI 사고가 터지면 배상 책임이 워낙 커서 보험업계 전체가 나서도 감당하기 어려울 수 있다고 앤트로픽은 지적했다.
AI의 활용 범위를 둘러싼 정부와의 갈등도 현실적인 사업 변수다. 앤트로픽은 미국 국방부의 ‘공급망 위험 기업’ 지정과 도널드 트럼프 행정부와의 소송이 공공부문 매출에 악영향을 줄 수 있다고 밝혔다.
사업 확대를 가로막는 반도체·전력 등 ‘물리적 병목’도 언급했다. AI 가속기용 HBM 공급이 삼성전자·SK하이닉스·마이크론 3사에 집중돼 물량 확보가 어렵고, 첨단 칩을 생산하는 대만 TSMC도 군사 충돌·자연재해로 장기간 공급 차질이 이어질 수 있다고 우려했다.
데이터센터에 필요한 전력·냉각수 확보도 불확실하다고 인정했다. 미국 전력망이 급증하는 AI 수요를 감당하지 못하거나, 물 부족과 지역사회 반발로 데이터센터 확충이 어려워질 수 있다는 것이다.
여러 위험요인을 공개하면서도 앤트로픽은 상장신고서의 다른 대목에서 AI가 가져올 혜택을 강조했다.
인간 전문가를 능가하는 ‘강력 AI’가 등장하면 수백만 개의 AI가 동시에 일하는 “데이터센터 속 천재들의 나라”가 열리고, 수십 년 걸리던 과학적 진보를 수년 안에 이룰 수 있다는 구상이다. 특히 암과 알츠하이머 같은 난치병 치료 등 생명과학 분야의 혁신을 기대할 수 있다고 했다.
AI의 경제적 파급효과가 2031년까지 누적 22조5000억달러(약 3경원)에 이를 것이라는 시장조사기관 IDC의 전망도 붙였다.
다만 앤트로픽은 “AI가 대규모로 확산하면 부와 권력이 집중돼 사회에 해를 끼치고 지정학적 질서를 불안정하게 만들 수 있다”고 했다.
댓글
0