김주영 하이퍼엑셀 대표, '2026년 정보통신 유공 포장' 수상

LLM 추론용 AI 반도체로 기술 혁신 인정

[데이터넷] AI 반도체 스타트업 하이퍼엑셀(HyperAccel)의 김주영 대표가 거대언어모델(LLM) 추론에 특화된 AI 반도체 기술 혁신 공로를 인정받아 ‘2026년 정보통신의 날’ 기념 정보통신 유공 정부포상에서 포장을 수상했다. 이번 수상은 GPU 중심 구조로 대표되는 기존 AI 인프라의 한계를 극복하고, LLM 추론에 최적화된 새로운 반도체 아키텍처를 제시한 점에서 의미가 크다.

김주영 대표는 KAIST 교수이자 AI 반도체·시스템 아키텍처 분야 연구자로, MS에서 데이터센터용 가속기 설계를 주도한 경험이 있다. 2023년 1월 하이퍼엑셀을 창업한 이후, 글로벌 AI 인프라 시장이 GPU 중심 구조 속에서 겪고 있는 고비용·고전력 문제를 해결하기 위해 LLM 추론에 특화된 독자 AI 반도체 ‘LPU(LLM Processing Unit)’를 개발하며 차세대 AI 인프라 아키텍처를 제시해왔다.

하이퍼엑셀은 LLM 추론에 최적화된 AI 반도체 ‘LPU(LLM Processing Unit)’를 개발 중으로, LLM 추론 과정의 연산 구조와 메모리 접근 패턴을 근본부터 새롭게 설계한 아키텍처를 기반으로, 메모리 대역폭 활용 효율을 극대화한다. 여기에 LPDDR5X 기반 저전력 메모리를 적용해 데이터센터 전력 소모와 총소유비용(TCO)을 절감할 수 있도록 했다.

특히 삼성 파운드리 4nm 공정을 적용한 반도체(ASIC) 개발을 2025년에 완료했으며, GPU 대비 약 3배 이상의 전력 효율과 10배 이상의 비용 효율 개선을 목표로 하고 있다.

김주영 하이퍼엑셀 대표는 “GPU 중심의 기존 AI 인프라 구조를 넘어, LLM 추론에 최적화된 새로운 표준을 제시하고 대한민국 기술이 글로벌로 확산될 수 있도록 최선을 다하겠다”고 말했다.