몇주 안으로 출시될 차세대 모델 '딥시크-V4'가 화웨이의 추론(inference) 칩에 최적화된 것으로 알려졌다. 모델의 성능에 따라 이번 사례는 중국의 반도체 자립에 중요한 이정표가 될 수 있다는 분석이다.
디 인포메이션은 3일(현지시간) 5명의 소식통을 인용, 알리바바와 바이트댄스, 텐센트 등 중국의 주요 기술 기업들이 화웨이의 차세대 칩 '어센드 950PR'을 수십만개씩 주문했다고 보도했다.
이는 딥시크-V4가 바로 이 칩에 최적화됐기 때문이다. 따라서 모델 출시 이후 수요가 급증할 경우를 대비하려는 것으로 전해졌다. 이 때문에 이번 달부터 양산 예정인 어센드 950PR은 최근 몇주 만에 가격이 20% 상승했다.
딥시크는 모델 학습에 화웨이의 칩을 사용하는 것은 사실상 실패한 것으로 알려졌다. 특히 연산 효율을 끌어올리기 위해 직접 짠 커널 코드들을 많이 사용하는데, 이를 화웨이 칩에서 돌리려면 CANN 소프트웨어 스택에 맞춰 일일이 새로 작성해야 하는 등 엄청난 수고가 따르기 때문이다.
또 FP8(8비트 부동소수점) 같은 최신 연산 방식은 하드웨어 지원 여부와 소프트웨어 최적화 수준에 따라 성능이 미세하게 달라진다. 모델 학습은 엔비디아 칩에서 했는데, 서비스를 화웨이 칩에서 실행했을 때는 모델 답변이 이상해지거나 속도가 급격히 느려지는 현상이 발생한다.
그래서 어센드 950PR은 엔비디아 칩에서 사용하는 것과 동일한 프로그래밍 명령어를 이해하도록 제작됐다. 엔지니어들이 엔비디아 하드웨어용으로 작성한 코드를 이전보다 훨씬 적은 수정 작업으로 화웨이 칩에서 실행할 수 있도록 한 것이다.
이런 번거로운 과정을 거치느라 당초 2월 설 연휴 전후로 예상됐던 V4의 출시가 몇달 더 연기됐다는 설명이다. 딥시크는 최근 몇달 동안 화웨이와 또 다른 중국 칩 설계업체 캠브리콘과 협력해 최적화 작업을 진행한 것으로 알려졌다.
또 V4는 1조개 이상의 매개변수를 가진 '풀 버전'과 2000억개 수준의 '라이트' 버전 두가지로 개발 중이다. 풀 버전은 고도의 추론과 복잡한 코딩을 위한 것으로, 어센드 칩에 최적화됐다. 라이트 버전은 일반 채팅 서비스나 단순한 API 서비스에 쓰는 것으로, 사양이 낮은 캠브리콘 칩에서도 구동하도록 설계됐다는 것이다.
이처럼 중국 정부가 국산 칩 우선 정책으로 인해, 지난 2월에는 딥시크가 모델 출시 전 일반적으로 제공하는 사전 접근권을 아예 엔비디아에 부여하지 않았다는 소식이 전해졌다.
이처럼 중국은 딥시크-V4 출시를 통해 칩 자립을 대대적으로 홍보할 계획으로 알려졌다. 그러나 아직도 넘어야 할 산은 많다.
먼저 화웨이의 칩은 모델 학습에서는 엔비디아와 비교할 수준이 아니며, 추론 성능도 'H200'보다 못한 것으로 알려졌다.
장디쉬안 화웨이 어센드 컴퓨팅 사업부 책임자는 지난 3월 회사 행사에서 어센드 950PR이 엔비디아가 중국용으로 다운그레이드한 'H20'보다 약 2.8배 높은 컴퓨팅 성능을 제공한다고 밝혔다. 물론 H200보다 떨어지는 성능이다.
또 시장조사 전문 번스타인에 따르면, 화웨이는 H200과 비슷한 수준의 컴퓨팅 성능을 제공하는 차세대 어센드 960을 2027년이 돼야 내놓을 것으로 예측했다.
화웨이 칩이 기대 이상의 성능을 발휘하더라도 미국의 통제로 인해 반도체 제작 장비 수입이 금지된 상태라, 수요를 맞출 수 있을지 불투명하다는 것이다. 중국 최대 파운드리 업체인 SMIC 시설이 이미 생산 능력 제약에 직면했다는 소식은 연초부터 들려왔다.
여기에 AI 칩의 핵심 부품인 고대역폭 메모리(HBM)의 수입이 금지된 상황도 어려움을 배가하고 있다. 화웨이는 올해 HBM 양산에 들어갈 계획이지만, 초기 950PR 물량에는 외국산 HBM이 탑재될 계획으로 알려졌다.
그러나 화웨이는 올해 4분기에는 추론을 넘어 모델 학습을 위한 새로운 칩 '어센드 950DT'를 출시할 계획이다. 950DT는 950PR보다 더 높은 144GB의 HBM 메모리와 초당 4TB의 대역폭을 가질 것으로 예고됐다.
임대준 기자 ydj@aitimes.com
댓글
0