채명수 노타 대표이사. 사진=노타
글로벌 반도체 설계기업 암홀딩스(Arm Holdings) 주가가 장중 298달러(45만1738원)를 돌파하며 사상 최고치를 경신하는 등 인공지능(AI) 인프라 시장의 무게 중심 변화에도 관심이 쏠린다. 시장에선 이번 상승을 단순한 개별 종목 강세가 아니라 AI 산업이 ‘학습(training)’ 중심에서 ‘추론(inference)’ 중심으로 이동하고 있다는 신호로 해석하는 분위기다.
22일 금융투자업계에 따르면 이 같은 급등의 배경에는 투자은행 번스타인(Bernstein)의 보고서가 촉매 역할을 했다. 데이비드 다이(David Dai) 번스타인리서치 연구원은 Arm 목표주가를 300달러로 제시하며 “AI 에이전트 시대 최대 수혜 기업”으로 평가했다.
AI 에이전트가 늘어나면서 AI를 실제로 실행하는 작업이 급증하고 있다. 이에 따라 단순히 AI를 학습시키는 데 강한 그래픽처리장치(GPU)보다 전력 소모와 비용이 적은 중앙처리장치(CPU) 수요가 빠르게 커질 것이란 분석이다.
번스타인은 2030년 서버 CPU 시장 규모가 1370억달러(약 208조원)에 달하고 Arm 매출도 260억달러(약 39조원) 수준까지 성장할 것으로 전망했다. 생성형 AI 초기 시장이 대규모 언어모델(LLM)을 얼마나 빠르게 학습시키느냐에 집중됐다면 이제는 실제 서비스 환경에서 AI를 얼마나 효율적으로 실행하느냐가 핵심 경쟁력으로 떠오르고 있다.
특히 AI 추론 환경에선 단순 연산 성능보다 전력 소비, 지연시간(latency), 메모리 효율, 운영 비용 등이 중요해진다. AI 에이전트 확산으로 실시간 요청 처리 수요가 폭증하면서 동일한 모델을 더 낮은 비용으로 안정적으로 실행하는 능력이 경쟁력을 좌우하게 됐다는 분석이다.
Arm이 재평가받는 배경도 여기에 있다. 모바일 중심 저전력 CPU 아키텍처로 성장한 Arm은 최근 데이터센터, 차량, 로보틱스 등으로 적용 범위를 빠르게 확대하고 있다. 단순 반도체 설계 IP 기업을 넘어 AI 인프라 핵심 플레이어로 진화하고 있다는 평가다.
시장에서는 이런 흐름이 AI 최적화 기술 기업으로도 확산될 가능성에 주목하고 있다. 추론 시대에는 모델 경량화, 양자화(quantization), 프루닝(pruning), 컴파일 최적화 등 ‘소프트웨어 최적화 레이어’ 중요성이 커질 수밖에 없기 때문이다.
국내에선 코스닥 상장사 노타(Nota)가 대표 사례로 거론된다. 노타는 AI 모델 최적화 플랫폼 ‘넷츠프레소(NetsPresso)’를 기반으로 다양한 하드웨어 환경에서 AI 모델 경량화·최적화 기술을 제공하고 있다. 최근 Arm과 AI 모델 최적화 플랫폼 관련 라이선스 계약을 체결하며 협력을 확대했다.
노타는 삼성전자, 엔비디아(NVIDIA), 퓨리오사AI(FuriosaAI) 등과도 추론 최적화 분야 협력을 확대 중이다. 넷츠프레소는 연산량과 메모리 사용량을 최대 90%까지 절감할 수 있는 기술을 제공하는 것으로 알려졌다.
스퀴즈비츠(SqueezeBits) 역시 AI 모델 압축·최적화 기술을 기반으로 추론 인프라 시장 공략에 나서고 있다. 최근 미국 AI 스타트업 모듈러(Modular), 국내 AI 반도체 기업 리벨리온(Rebellions) 등과 협력을 확대하며 존재감을 키우고 있다.
금융투자업계에선 AI 인프라 경쟁이 단일 칩 성능 경쟁에서 하드웨어와 소프트웨어를 함께 최적화하는 방향으로 이동할 것으로 보고 있다. AI 에이전트와 온디바이스(인터넷 연결 없이 스마트폰이나 PC 자체에서 실행하는)AI 확산이 본격화될수록 데이터센터뿐 아니라 모바일·차량·로봇 등 다양한 환경에서 AI를 효율적으로 실행하는 기술 중요성이 커질 것이란 전망이다.
증권업계 관계자는 “Arm 급등은 AI 인프라 시장이 추론 중심으로 재편되고 있다는 신호로 볼 수 있다”며 “추론 시대엔 GPU 확보만큼이나 AI 모델을 각 하드웨어에 맞게 효율적으로 실행하는 최적화 기술이 핵심 경쟁력이 될 것”이라고 말했다.
댓글
0