[인터뷰] 하이퍼엑셀 "AI 반도체 'LPU'로 AI 추론 시장 공략"…AWS와 협력...

하이퍼엑셀 이진원 CTO “비용 장벽 허물어 모두가 AI 혜택 누리는 세상 만들 것”

하이퍼엑셀 이진원 CTO가 인터뷰를 진행하고 있다.

[아이티데일리] 2023년 창업한 AI 팹리스 스타트업 하이퍼엑셀이 AI 추론 시장 공략에 속도를 내고 있다. 거대언어모델(LLM)에 특화된 반도체인 '‘LPU(LLM Processing Unit)’를 앞세워 GPU 중심의 공급 병목 현상을 해소하고, 기업들의 AI 운영 비용 부담을 낮추겠다는 전략이다.

최근 AI 시장에서는 추론의 중요성이 갈수록 부각되고 있다. 챗GPT, 제미나이, 클로드, 라마 등 주요 AI 모델 대부분이 트랜스포머 기반의 추론 아키텍처를 채택하고 있다. 업계에서는 그동안 GPU로 AI 학습과 추론을 처리해 왔으나, 전력 소모가 크고 자원 낭비가 발생한다는 지적이 꾸준히 제기돼 왔다.

이에 하이퍼엑셀은 LLM 전용 연산 가속기인 LPU를 통해 시장의 페인 포인트를 해결하고 있다. 범용 연산을 수행하는 GPU와 달리, 하이퍼엑셀의 LPU는 AI 산업의 표준으로 자리 잡은 트랜스포머 기반 알고리즘에 하드웨어와 소프트웨어를 함께 최적화했다.

하이퍼엑셀은 올해를 기점으로 시장 공략에 박차를 가하고 있다. 네이버클라우드와 손잡고 AI 데이터센터형 반도체 보급에 나서는 한편, 연말에는 LG전자와 공동 개발 중인 온디바이스 AI 반도체도 공개할 계획이다.

AWS와의 협력도 주목된다. AWS의 F2 인스턴스(FPGA)를 활용해 기존 온프레미스 기반 테스트의 한계를 극복하고, AWS의 반도체 설계 툴(EDA)을 도입해 라이선스 비용을 절감했다.

다음은 하이퍼엑셀 이진원 CTO와의 일문일답이다.

Q. 하이퍼엑셀이 강조하는 'LPU'란 무엇인가

LPU는 LLM 추론에 최적화된 전용 반도체다. 기존 NPU들이 다양한 AI 알고리즘을 폭넓게 지원했다면, 저희는 범위를 좁혀 트랜스포머 알고리즘에 집중했다. 이를 통해 불필요한 연산 낭비를 크게 줄일 수 있다.

Q. GPU 중심 시장에서 하이퍼엑셀의 경쟁력은

단연 비용 효율성과 전력 효율이다. 데이터센터 구축비부터 운영 비용까지 포함한 총소유비용(TCO)을 엔비디아 GPU 대비 3분의 1 수준으로 낮추는 것이 목표다. 고가의 HBM 대신 저전력 LPDDR 메모리를 채택하고, 연산기와 메모리가 버퍼링 없이 데이터를 공유하는 아키텍처를 통해 전력 소모를 최소화했다.

Q. LG전자와 진행 중인 온디바이스 AI 반도체는 어떤 기술인가

가전이나 로봇이 사용자의 음성 명령을 자연스럽게 이해하고 물리적인 동작까지 수행하는 ‘피지컬 AI(Physical AI)’를 구현하는 것이 목표다. 정해진 키워드만 인식하는 수준을 넘어, 비전언어모델(VLM)과 비전언어행동(VLA) 모델까지 지원함으로써 로봇청소기 등 가전제품이 스스로 판단하고 움직일 수 있는 칩을 올해 말 선보일 예정이다.

Q. AWS와의 협력을 통해 얻은 성과는

예전에는 고객사에 직접 서버를 구축해 드리는 온프레미스 방식으로 PoC를 진행했기 때문에 인력 소모가 크고 환경 불일치 문제도 적지 않았다. 하지만 AWS의 FPGA 인스턴스를 활용하면서 고객이 온라인에서 즉시 저희 기술을 테스트할 수 있는 환경을 구축했고 그 결과 구축 시간은 90%, 추론 비용은 GPU 인스턴스 대비 70%를 각각 절감할 수 있었다.

또한 AWS EDA 온 클라우드 도입으로 필요한 시점에 필요한 만큼만 툴을 사용하는 경제적인 운영 방식도 갖추게 됐다. 이러한 협력을 바탕으로 궁극적으로 지향하는 목표는 AWS 서비스 내에서 하이퍼엑셀의 LPU를 직접 제공하는 것이다. 현재 사용자들이 AWS에서 엔비디아 GPU를 임대해 사용하듯, 전 세계 고객들이 몇 번의 클릭만으로 하이퍼엑셀의 LPU를 선택해 AI 서비스를 구동할 수 있도록 만들고 싶다.

Q. 리벨리온, 퓨리오사AI 등 국내 경쟁사들과의 관계는

경쟁사라기보다는 생태계를 함께 만들어 가는 동반자라고 생각한다. 각 사가 추구하는 방향도 조금씩 다른 만큼, 서비스 단계별로 각 사의 칩을 혼합해 활용하는 파이프라인 협업도 충분히 가능하다. 리벨리온 같은 선두 기업이 먼저 길을 열어준 덕분에 후발주자로서 수혜를 입는 부분도 분명히 있다. 결국 국내 AI 반도체 기업들이 서로 시너지를 내며 세계 시장에서 기술력을 함께 증명하는 것이 우선이다.

Q. 향후 계획과 목표는

기술력이 시장에서 충분히 검증되는 대로 최대한 빠르게 상장에 도전할 생각이다. 올해는 데이터센터형 칩을 성공적으로 시장에 안착시키고, 온디바이스 칩 개발에 집중할 계획이다. 하이퍼엑셀은 비용 장벽으로 AI를 활용하지 못하는 이들에게 효율적인 인프라를 제공해, 누구나 AI의 혜택을 누릴 수 있는 세상을 만들어 나가겠다.