[네이버 반도체 전략]② SK하이닉스·K-NPU와 AI 인프라 새판 짠다

인공지능(AI) 성능의 핵심 지표가 단순 연산 속도를 넘어 에너지 효율과 '메모리 대역폭'으로 옮겨가고 있다. 네이버 역시 이러한 흐름에 발맞춰 SK하이닉스와 차세대 메모리 솔루션 협력을 넓히고, 국내 팹리스들과 신경망처리장치(NPU) 실증에 나서는 등 하드웨어와 소프트웨어를 아우르는 '풀스택 AI' 인프라 구축에 속도를 내고 있다.

특히 AI 인프라의 핵심으로 꼽히는 엔비디아의 그래픽처리장치(GPU)가 한 장에 수 천만원을 호가하는 비용 압박 속에서 특정 기업에 대한 의존도를 줄이고 이기종 컴퓨팅 환경에 대비하는 모습이다.

11일 업계에 따르면 네이버클라우드는 지난해 9월 SK하이닉스와 양해각서(MOU)를 체결한 이후 자사 데이터센터에 SK하이닉스의 최신 메모리 솔루션을 적용하고 소프트웨어 최적화를 추진 중이다.

AI 데이터센터에서 GPU 성능을 극대화하기 위해서는 메모리의 뒷받침이 필수적이다. 거대언어모델(LLM)은 방대한 파라미터와 데이터를 짧은 시간 안에 주고받아야 하는데 이 과정에서 병목 현상이 발생하면 연산 성능과 전력 효율이 떨어지고 운영 비용은 증가하기 때문이다.

특히 생성형 AI 서비스가 확장될수록 학습보다 추론 단계에서 비용 부담이 더 빠르게 늘어난다. 이에 따라 GPU, 메모리, 인터커넥트, 가속기 등 조합의 최적화 역량이 글로벌 빅테크 기업 간 핵심 경쟁력으로 부상하고 있다.

이에 네이버클라우드는 SK하이닉스와 차세대 메모리 기술인 '컴퓨트 익스프레스 링크(CXL)'과 '프로세싱 인 메모리(PIM)'를 다양한 조건에서 검증하며 상용화에 박차를 가하고 있다.

'빠르게 연결해서 연산한다'는 의미의 컴퓨트 익스프레스 링크(CXL)는 컴퓨팅 시스템 내 중앙처리장치(CPU)와 GPU, 저장장치(스토리지) 등을 효율적으로 연결해 대용량, 초고속 연산을 지원하는 차세대 솔루션이다.

특히 고속 입출력 인터페이스(PCIe) 인터페이스에 기반해 데이터 전송 속도가 빠르고 여러 대의 서버를 하나의 거대한 메모리 풀(Pool) 방식으로 공유해 필요할 때마다 필요한 만큼의 메모리를 끌어다 쓰는 것도 가능하다. 이에 '메모리 벽(데이터 정체)'에 부딪힌 AI 추론 서버 입장에서 CXL은 필수 인프라로 주목 받고 있다.

PIM은 이름 그대로 메모리 안에서 연산까지 처리하는 반도체를 의미한다. AI 연산의 핵심인 행렬 계산을 메모리가 스스로 처리하고 결과값만 GPU에 전달해 데이터 이동이 정체되는 문제를 해소할 수 있는 차세대 기술로 꼽힌다.

앞서 김유원 네이버클라우드 대표는 "AI 경쟁력은 소프트웨어뿐 아니라 인프라 최적화에서 갈린다"며 "글로벌 메모리 선도기업과 협업해 고객에게 혁신적 AI 경험을 제공하겠다"고 말했다.

네이버는 민간 영역뿐만 아니라 정부의 프로젝트 사업에도 적극 참여하며 국내 팹리스들과 신경망처리장치(NPU)의 실증을 통해 AI 인프라를 다변화에 나서고 있다.

NPU는 AI 추론 작업에서 GPU 대비 상대적으로 낮은 전력으로 높은 성능을 구현할 수 있는 AI 칩이다. 이에 일각에선 리벨리온, 퓨리오사AI 등 국내 기업이 설계한 일부 NPU는 전성비 측면에서 엔비디아 GPU 대비 3배 이상 효율적이라는 평가도 나온다.

앞서 네이버클라우드는 과학기술정보통신부(과기정통부)가 주관하는 'K-클라우드 프로젝트'의 핵심 사업자로 참여하며 KT클라우드, NHN클라우드와 함께 컨소시엄을 구성하고, 국내 AI 반도체 기업인 퓨리오사 AI, 리벨리온과 'AI 반도체 팜(Farm) 구축 및 실증'에 나섰다.

이 과정에서 컨소시엄은 연산용량 총 19.95페타플롭스(PF) 규모의 국산 NPU 팜 구축 및 실증에 성공하며 국산 칩이 실제 산업 환경에서 외산 GPU를 대체할 수 있는 가능성을 확인했다.

특히 네이버클라우드는 퓨리오사AI의 칩을 활용해 서울AI허브와 제주위미농협 등에서 외국인 근로자를 위한 'LLM 기반 실시간 번역·챗봇 서비스'를 구현했다. 고가의 엔비디아 GPU 대신 국산 NPU를 활용해 운영 비용은 낮추면서도 사용자 체감 성능은 동등한 수준으로 끌어올린 것이다.

이런 흐름은 정부가 추진 중인 '국가 AI 컴퓨팅 센터' 구상과도 맞닿아 있다. 국가 AI 컴퓨팅 센터는 총 사업비 2조 9000억원의 초대형 AI 인프라 프로젝트로 오는 2028년까지 전남 해남군 솔라시도에 1엑사플롭스(EF·1초에 100경번 연산)급 AI 컴퓨팅 센터를 건설하고 국내 산학연에 저렴한 가격으로 서비스를 제공하는 것을 골자로 한다.

특히 서비스 개시 초기에는 엔비디아 GPU 1만 5000개를 우선 구축하지만 점진적으로 국산 AI 반도체 비율을 늘려 오는 2030년까지 50%를 채운다는 목표다. 이에 정부의 국산 AI 반도체 활성화 기조 속에서 네이버클라우드는 국산 NPU 기업과의 협력을 확대하며 AI 인프라 생태계 다변화에 속도를 낼 것으로 보인다.

이 프로젝트에서 네이버클라우드는 삼성SDS, 카카오, KT, 삼성전자, 삼성물산, 클러쉬 등 국내 주요 AI 관련 기업이 함께 컨소시엄을 구성해 참여 중이다. 특수목적법인(SPC) 지분은 삼성SDS가 30%대로 가장 많고 정부가 29%, 네이버클라우드가 26%대, 삼성전자와 삼성물산이 각각 5% 내외, 카카오가 3%대, KT가 1%대를 보유했다. 삼성SDS 컨소시엄은 국가 AI컴퓨팅센터 구축사업 우선협상대상자로 선정됐다.

한 업계 관계자는 "아마존과 구글 등 글로벌 빅테크 기업들은 막대한 자본을 바탕으로 자체 칩 생태계를 완성해 나가고 있다"며 "특히 구글이 자체 설계한 텐서처리장치(TPU)는 타사와의 협력을 발표할 때마다 엔비디아의 주가가 출렁일 만큼 대항마로 떠올르고 있다"고 설명했다.

이어 "우리나라 정부 역시 자체 AI 인프라 생태계 구축을 위해 네이버 같은 기업이 국산 AI 칩을 도입해 소프트웨어 경험을 쌓길 바라고 있다"며 "장기적으로 국내 AI 서비스 일부를 국산 NPU로 돌릴 수 있어야 비용과 기술 주권을 함께 잡을 수 있을 것으로 보인다"고 덧붙였다.

이종환 상명대 시스템반도체공학과 교수는 "GPU는 그래픽용으로 제작된 프로세서인데, AI 데이터센터용으로도 효과적인 것으로 인식돼 엔비디아 칩이 시장을 주도해왔다"며 "국산 NPU 수준이 글로벌 칩과 비교해 성능면에서는 뒤지지 않는 수준에 왔다고 보고 저비용 칩으로도 기술 구현이 가능한 것이 알려지면서 점차 주목받게 될 것"이라고 전했다.

이어 "다만 NPU는 AI 연산에 특화된 칩"이라며 "GPU는 범용적인 연산이 가능하기 때문에 NPU를 도입하더라도 당분간은 병행해서 사용할 수밖에 없다"고 부연했다.