SKT-리벨리온-Arm 서버 공동 개발
독자 AI 모델 운영 위한 인프라 준비
오른쪽 위는 리벨리온의 NPU '리벨카드', 오른쪽 아래는 Arm의 'AGI CPU'. 왼쪽은 이들이 각각 8개, 2개 탑재된 랙(각종 IT 장비를 넣어 고정해두는 구조물). 리벨리온 제공
국내 인공지능(AI) 반도체 스타트업 리벨리온의 신경망처리장치(NPU)가 SK텔레콤의 인공지능(AI) 데이터센터에 들어간다. 글로벌 반도체 설계 기업 암(Arm)의 중앙처리장치(CPU)와 함께 탑재돼 AI 추론용 서버 기능을 검증받는다.
이를 위해 SKT는 9일 리벨리온, Arm과 차세대 AI 인프라 혁신 전략적 파트너십(MOU)을 체결했다고 10일 밝혔다. 정부의 소버린(주권) AI 확보를 위한 독자 파운데이션 모델 개발 프로젝트 2단계에 진출한 SKT가 모델 서비스 운영까지 염두에 두고 AI 풀스택 인프라를 준비하고 있다는 분석이다.
SKT 데이터센터에 들어갈 CPU는 Arm이 데이터센터 전용으로 새롭게 출시한 제품(AGI CPU)이다. 함께 탑재되는 NPU는 리벨리온이 올해 3분기 출시 예정인 '리벨카드'다. 둘 다 AI 추론 서비스를 겨냥한 것이 특징이다. 이 두 칩을 한 서버 안에 탑재해 CPU는 데이터 처리와 시스템 운영 같은 범용 연산을, NPU는 AI 추론 연산을 전담하게 한다는 게 세 회사의 계획이다. 그러면 전력 효율은 높이고 운영 비용은 줄일 수 있다는 것이다. 국산 NPU와 글로벌 CPU를 결합해 서비스 단계의 추론에 최적화한 인프라를 만들겠다는 구상이다.
서울 금천구 SK브로드밴드 가산 AI 데이터센터에 SK텔레콤의 그래픽처리장치(GPU) 클러스터 '해인'이 설치돼 있다. SKT 제공
SKT는 이 서버를 자사 AI 데이터센터에 설치해 성능과 안정성을 검증할 계획이다. 이 서버로 SKT의 독자 AI 모델 '에이닷엑스 케이원(A.X K1)'을 운영하는 방안도 검토 중이다. 저전력·고효율 AI 추론 인프라를 확보해 AI 풀스택 역량을 선보이겠다는 의미다.
리벨리온은 독자 파운데이션 모델을 개발 중인 SKT 컨소시엄의 핵심 기업이다. KT클라우드에 1세대 NPU '아톰'을 공급해 국내 최초로 NPU 기반 AI 반도체를 데이터센터에 상용화했고, SKT의 통화 녹음·요약 서비스 '에이닷'에도 NPU를 적용해 서비스했다. Arm은 이번 협력으로 반도체 설계에 국한됐던 기존 사업 영역을 AI 데이터센터용 자체 CPU을 만드는 방향으로 확장하면서 데이처센터 시장에 진출할 발판을 마련하게 됐다.
이재신 SKT AI 사업개발 담당은 "추론에 최적화한 인프라와 에이닷엑스 케이원을 결합한 풀 패키지러 AI 데이터센터 경쟁력을 더욱 강화하겠다"고 말했다. 오진욱 리벨리온 최고기술책임자(CTO)는 "이번 협력이 업계에서 매우 유의미한 선례가 될 것”이라고 내다봤다. 또 에디 라미레즈 Arm 클라우드 AI 사업부 부사장은 "주요 파트너들과 협력해 소버린 AI와 통신 시장을 위한 확장성 있는 인프라를 실현하게 돼 기쁘다"고 밝혔다.
댓글
0