[반도체레이다] 8월 중 PCIe 6.4·CXL 3.2 퓨전 스위치 생산
"차기 컨트롤러 및 솔루션 '하이퍼CXL' 공개 예정…NV링크와 공존"
4월 28일 서울 동대문구 JW메리어트 호텔에서 열린 'ISPASS 2026' 연사로 나서 발표하는 정명수 파네시아 대표
[디지털데일리 고성현기자] 파네시아가 올해 하반기 인공지능(AI) 데이터센터용 대형 링크 반도체 칩을 선보인다. 에이전틱 AI 고도화로 급증한 KV캐시 등 메모리 장벽(Memory Wall)을 돌파하기 위한 대안으로, 컴퓨트익스프레스링크(CXL) 기반 인터커넥트와 메모리 패브릭 시장을 겨냥한 행보다. 이를 통해 차세대 데이터센터용 링크 반도체 시장을 선점하겠다는 목표를 드러냈다.
정명수 파네시아 대표는 28일 서울 동대문구 JW메리어트호텔에서 열린 '시스템 및 소프트웨어 성능 분석 국제 심포지엄(ISPASS) 2026' 발표 연사로 나서 "올해 8월 중 PCIe 6.4·CXL 3.2 퓨전 스위치를 (사전 샘플보다) 더 큰 고채널(High Channel) 형태로 준비하고 있다"며 이처럼 말했다.
파네시아는 국내 반도체 설계 전문(팹리스) 스타트업이다. 차세대 프로세서·장치 연결 방식 표준인 CXL을 기반으로 한 스위치·컨트롤러 등을 설계하고 있다. CXL은 CPU, GPU, AI 가속기(xPU)와 D램 등 메모리 자원을 고속으로 연결해 하나의 메모리 풀처럼 활용할 수 있도록 하는 인터커넥트 기술이다. 서버마다 분산된 메모리를 공유 자원처럼 활용할 수 있어 데이터센터의 총소유비용(TCO)을 낮추고 전력 효율을 높일 수 있는 차세대 기술로 평가된다.
정명수 대표는 "기존 생성형 AI는 사용자가 질문(Query) 하나를 넣으면 답변 하나가 나오는 구조였지만 에이전틱 AI는 다르다. 하나의 목표를 입력하면 계획과 행동이 나오는 구조"라고 운을 뗐다.
이어 "사용자가 목표를 입력하면 초거대언어모델(LLM)이 계획을 세우고 이후 실행을 거쳐 작업을 수행한다"며 "이 과정에서 프리필 KV캐시가 반복적으로 생성되는 등 기존 생성형 AI보다도 더 많은 메모리 요구량이 핵심 병목이 될 것"이라고 강조했다.
생성형 AI는 사용자의 질문을 이해하고 답변을 만들어내는 과정에서 이전 토큰의 문맥(Context) 정보를 저장한 KV캐시를 지속적으로 활용한다. 답변이 길어지거나 대화가 여러 차례 이어질수록 저장해야 할 키(Key)와 (Value) 값이 크게 늘어나는 구조다.
이처럼 누적되는 KV캐시는 GPU 내 고대역폭메모리(HBM) 용량을 빠르게 잠식한다. 특히 추론 과정에서는 연산 성능 자체보다 이 KV캐시를 얼마나 효율적으로 저장하고 불러올 수 있느냐가 성능을 좌우한다. 따라서 제한된 HBM 용량을 어떻게 보완할지가 AI 인프라의 핵심 과제로 꼽힌다.
특히 최근 에이전틱 AI가 주류로 떠오르면서 메모리 사용량은 기하급수적으로 늘고 있다. 에이전틱 AI는 질문 하나에 답변 하나를 내놓는 기존 생성형 AI와 달리, 계획 수립과 도구 실행, 결과 검증, LLM 재실행을 반복하는 멀티스텝 구조를 띤다. 이 과정에서 모델이 여러 차례 다시 구동되며 입력 토큰을 처리해 중간 상태를 만드는 프리필(Prefill) 단계가 반복되고, 그때마다 새로운 KV캐시가 생성된다. 결국 이전 단계의 문맥과 상태 정보를 계속 유지해야 하는 만큼 메모리 점유가 빠르게 불어나며 HBM 부담도 한층 커지는 구조다.
정 대표는 이러한 메모리 용량 압박의 대안으로 CXL 기반 인터커넥트를 꼽았다. 그는 "KV캐시가 GPU 용량을 넘어가면 결국 데이터를 CPU 메모리에 저장해야 하나 이 과정에서 데이터를 찾고 다시 GPU로 끌어오는 과정 자체가 무겁다"며 "CXL 3.0으로 가면 스위치를 패브릭(Fabric)으로 구성해 하나의 통합된 인터커넥트로 운영할 수 있다"고 설명했다.
기존 AI 데이터센터는 GPU 중심 구조로 GPU간 통신은 NV링크 등 초고속 인터커넥트로 빠르게 연결된다. 반면 GPU 밖 메모리나 저장장치에 접근할 때는 PCIe 케이블이나 이더넷·인피니밴드 기반 네트워크를 거쳐야 해 지연시간이 커질 수밖에 없다. 연산은 빨라도 메모리를 불러오는 과정에서 병목이 발생하는 이유다.
CXL 기반 인터커넥트는 이를 메모리 중심 구조로 바꾸는 방식이다. CXL 3.0부터는 스위치를 패브릭 형태로 구성해 여러 가속기와 메모리를 하나의 통합된 연결망처럼 운영할 수 있다. GPU가 외부 메모리 풀에 보다 직접적으로 접근할 수 있어, 기존 네트워크를 거치며 발생하던 지연과 오버헤드를 줄일 수 있다는 설명이다.
특히 정 대표는 파네시아가 CXL 메모리를 기반으로 PCIe를 설계한 만큼 속도 측면에서의 이점도 있다고 강조했다. 기존 PCIe 기반 시스템이 데이터 이동·복사 과정을 반복하는 반면, CXL은 캐시 일관성을 유지해 이 과정을 저감할 수 있는 덕이다.
파네시아는 지난해 PCIe 6.4·CXL 3.2 퓨전 스위치를 샘플 생산한 후 올해 4월 이를 고도화했다. 아울러 올해 하반기 중 이를 대형화한 고채널 스위치를 생산해 공급에 들어설 계획이다.
칩뿐 아니라 이를 실장한 카드 형태의 솔루션도 준비 중이다. 정 대표는 "이를 퓨전 스위치 카드 형태로 만들어 서버 노드나 컴퓨트 트레이에 통합될 수 있도록 했다"며 "특히 기존 상용 서버와도 호환되도록 준비 중"이라고 설명했다.
또 차세대 솔루션으로 PCIe7·CXL4 컨트롤러 개념검증(PoC)에 나섰다. 이와 함께 CXL 스위치 등을 랙 단위가 아닌 클러스터 단위로 확장한 신규 아키텍처 '하이퍼CXL'도 공개할 예정이다.
정명수 대표는 "CXL은 하나의 표준이지만 이를 실제로 어떻게 구축할 것인가가 중요하다. 파네시아는 메모리 링크를 NV링크 등과 함께 묶어 통합된 메모리 중심 아키텍처를 만드는 것"이라며 "NV링크를 대체하지 않고 함께 동작하는 형태다. CXL이 메모리를 위한 (핵심) 아이디어가 될 것"이라고 말했다.
댓글
0