K엔비디아 육성 프로젝트내용 보니
고전력 핑계로 연산 축소 전략 전환
지능 경쟁서 한발 물러난 정책 선택
이재명 대통령이 더불어민주당 대선 예비후보이던 지난 2025년 4월 14일 서울 강남구 퓨리오사AI에서 퓨리오사AI NPU를 살펴보고 있다. /연합뉴스
정부가 고전력·고비용 구조를 이유로 그래픽처리장치(GPU) 중심 인공지능(AI) 경쟁에서 자진 후퇴하고 추론형 신경망처리장치(NPU) 개발을 전면에 내세웠다. 표면적으로는 효율 개선과 비용 절감이지만, 구조적으로 보면 지능을 직접 만들어내는 경쟁에서 이탈하는 선택에 가깝다는 지적이 나온다.
19일 여성경제신문 취재를 종합하면 정부는 이미 GPU 중심 구조의 한계를 공식적으로 제기하며 NPU 중심 전략 전환을 선언한 상태다. 과학기술정보통신부와 금융위원회는 지난 17일 민관 합동 간담회를 열고 ‘K-엔비디아 육성 프로젝트’를 추진하겠다고 밝히며, 초저전력·고효율 NPU를 앞세운 AI 반도체 전략을 제시했다.
배경훈 과기정통부 장관은 “GPU는 막대한 전력 소모와 천문학적 비용이라는 구조적 한계를 갖고 있다”며 “AI 빅테크 역시 추론에 특화된 차세대 NPU 기술 확보 경쟁에 뛰어들고 있다”고 말했다. GPU 중심 학습 구조 대신 추론 효율 중심으로 무게중심을 이동시키겠다는 정부 인식이 공식 발언으로 확인된 셈이다.
금융위원회도 같은 날 국민성장펀드를 통해 향후 5년간 AI·반도체 분야에 50조원을 투입하고, 그 중 상당 부분을 NPU 중심 생태계 조성에 집중하겠다고 밝혔다. 정부는 국가 AI 컴퓨팅센터 구축과 산업 AX, 피지컬 AI 등 후속 메가 프로젝트까지 연계하며 해당 전략을 산업 전반으로 확장하겠다는 계획이다.
금융당국까지 전면에 나선 점도 이례적이다. 일반적으로 금융은 자금 공급 역할에 머물지만 이번에는 연산 구조와 산업 방향까지 언급하며 사실상 기술 전략에 개입하는 모양새가 된 것. 업계에서는 “금융이 산업을 지원하는 수준을 넘어 기술 방향까지 규정하려는 모습”이라는 평가가 나온다.
17일 서울 중구 프레스센터에서 열린 국민성장펀드 'K-엔비디아 프로젝트' 민관 합동 간담회에서 이억원 금융위원장, 배경훈 부총리 겸 과학기술정보통신부 장관, 박상진 산업은행 회장, AI 반도체 기업 5사 대표 등 참석자들이 기념 촬영하고 있다./연합뉴스
李 선거 공약 함정 빠지면
글로벌 경쟁서 도태할 것
정책의 무게중심이 이재명 대통령 선거 공약 논리로 이동하는 사이, 글로벌 AI 시장은 정반대 방향으로 움직이고 있다. 빅테크 업계 등에 따르면 현재 글로벌 AI 시장은 GPU를 중심으로 재편돼 있다. 대형언어모델(LLM)을 비롯한 핵심 기술은 대규모 병렬 연산 위에서 진화해왔고, 이에 최적화된 하드웨어 역시 GPU가 사실상 표준으로 자리 잡았다.
엔비디아가 학습용 GPU 시장을 장악했고 AMD가 뒤를 쫓는다. 구글은 TPU로 자체 생태계를 구축했고 아마존은 트레이니엄과 인퍼렌시아로 클라우드 내부 연산을 통제한다. 마이크로소프트는 오픈AI와 결합해 모델과 인프라를 동시에 키우는 구조를 만들었다. 방향은 명확하다. 모두 ‘지능을 만들어내는 연산’에 집중하고 있다.
물론 이재명 정부처럼 GPU 경쟁에서 뒤처진 상황을 인정하고 다른 길을 택하는 것 자체는 현실적일 수 있다. 그러나 이를 ‘대안’이 아니라 ‘우위 전략’처럼 포장하면 정책은 방향을 잃는다. 연산 효율과 지능 축적은 다른 층위인데, 전자가 후자를 대체할 수 있는 것처럼 설명되기 때문이다. 비용 문제를 기술 전략으로 치환한 셈이다.
AI에서 학습은 단순 계산이 아니다. 수십억 개 파라미터가 데이터를 통해 반복적으로 수정되는 과정이며, 막대한 병렬 연산과 메모리 대역폭, 낮은 지연 구조를 동시에 요구한다. GPU는 이 반복 연산을 감당하도록 설계돼 있고 TPU 역시 대규모 행렬 연산으로 학습 자체를 처리하도록 만들어졌다.
반면 NPU는 이미 학습된 모델을 빠르게 실행하는 데 최적화된 구조다. 경로가 고정돼 있고 특정 작업에 특화돼 있어 효율성은 높지만, 학습 과정에서 요구되는 유연한 연산 흐름을 감당하기 어렵다.
GPU와 TPU는 지능을 만들어내는 장치이고 NPU는 완성된 지능을 실행하는 장치다. 전자는 불확실한 연산을 견디며 구조를 바꾸는 데 강하고, 후자는 확정된 계산을 빠르게 반복하는 데 최적화돼 있다. 출발점부터 다르다.
NPU 역할 GPU·TPU가 다 해
이런 방향이라면 격차는 시간이 갈수록 벌어진다. 학습 중심 구조는 데이터를 흡수하며 성능을 강화하고 서비스는 다시 데이터를 생성한다. 이 순환이 반복되면서 모델은 커지고 성능은 기하급수적으로 상승한다. 반면 추론 효율 중심 구조는 이 순환에 직접 참여하지 못한다. 외부에서 만들어진 모델을 소비하는 구조에 머물 가능성이 크다.
추론 환경 자체도 변하고 있다. CoT(Chain of Thought)처럼 중간 계산을 반복하는 구조가 확산되면서 추론 과정이 길어지고 복잡해지고 있다. 이는 사실상 경량 학습에 가까운 형태로, 연산 유연성과 메모리 처리 능력이 핵심이 된다. 이 영역에서도 GPU와 TPU 구조가 상대적으로 유리하다. 추론과 학습의 경계가 흐려지는 상황에서 고정 경로 기반 구조는 한계가 더 뚜렷해진다.
퓨리오사AI, 사피온, 딥엑스 등 수혜 기업에도 이 흐름은 딜레마다. 정부 프로젝트에 이름을 올린 순간, 그 프로젝트의 논리적 취약성을 함께 짊어지게 됐다. "추론 특화"를 내세운 제품 전략이 CoT 확산으로 흔들리고, 독립 생태계 구축의 전제인 소프트웨어 스택은 여전히 CUDA 장벽 앞에 서게 된다.
최신 GPU는 텐서코어와 저정밀 연산(FP8·INT8)을 통해 추론 효율까지 동시에 끌어올렸고, TPU 역시 학습과 추론을 통합 처리하는 구조로 발전했다. 여기에 대규모 배치 처리와 메모리 대역폭, 소프트웨어 스택까지 결합되면서 범용 가속기가 추론 시장까지 잠식하는 흐름이 굳어지고 있다.
반면 NPU는 특정 연산에 최적화된 고정 경로 구조로 설계돼 범용성·확장성에서 한계가 뚜렷하다. 결과적으로 모델이 커지고 연산 구조가 복잡해질수록 별도 NPU를 둘 이유는 줄어들고, GPU·TPU 중심으로 수렴하는 구조 속에서 독립적인 역할은 점점 축소될 가능성이 크다.
글로벌은 이미 GPU·TPU 중심으로 학습-추론 통합 구조와 소프트웨어 생태계(CUDA 등)까지 묶어버린 상태다. 이 상황에서 별도 NPU 생태계를 뒤늦게 키우겠다는 건, 단순히 기술 하나를 따라잡는 문제가 아니라 플랫폼 전체를 새로 만드는 싸움이다. 비용 대비 난이도가 지나치게 높다.
퓨리오사AI, 사피온, 딥엑스 등 수혜 기업에도 이 흐름은 딜레마다. 정부 프로젝트에 이름을 올린 순간, 그 프로젝트의 논리적 취약성을 함께 짊어지게 됐다. "추론 특화"를 내세운 제품 전략이 CoT 확산으로 흔들리고, 독립 생태계 구축의 전제인 소프트웨어 스택은 CUDA 장벽 앞에 서게 된다.
인공지능 구조분석 전문가는 여성경제신문에 “연산을 얼마나 싸게 돌릴 것인가, 아니면 지능을 어디서 만들 것인가. 전자는 비용이고 후자는 주도권이다. 글로벌 경쟁은 이미 후자를 기준으로 움직이고 있다”며 “NPU가 전략의 중심이 되면 지능 중심 경쟁을 따라잡기 어렵다”고 지적했다.
☞ 텐서코어(Tensor Core)
= GPU 내부에 탑재된 행렬 연산 전용 유닛으로, AI에서 핵심인 대규모 행렬 곱셈·누적(MAC) 연산을 일반 코어보다 훨씬 빠르게 처리하도록 설계된 구조다. 딥러닝 학습과 추론 모두에서 사용되며, 특히 대형언어모델처럼 연산량이 폭증하는 환경에서 병렬로 행렬을 처리해 성능을 끌어올린다. 최근에는 혼합 정밀도까지 지원해 속도와 정확도를 동시에 맞추는 방향으로 발전하고 있다.
☞ 저정밀 연산(FP8·INT8)
= 연산에 사용하는 숫자의 표현 비트를 줄여 속도와 전력 효율을 높이는 방식이다. FP8은 8비트 부동소수점, INT8은 8비트 정수 연산을 의미하며 기존 FP32 대비 메모리 사용량과 연산량을 크게 줄일 수 있다. 정확도 손실이 일부 발생할 수 있지만, 모델 최적화 기법과 결합하면 성능 저하를 최소화하면서 처리량을 대폭 늘릴 수 있어 대규모 AI 추론에서 핵심 기술로 자리 잡고 있다.
여성경제신문 이상헌 기자
댓글
0