"인프라·A.X K1 결합한 풀 패키지 제공해 AI 데이터센터 경쟁력 강화"
SKT, CPU+NPU AI 서버 설루션 개발…AI 데이터센터 경쟁력 강화 나선다. [사진= SK텔레콤 제공]
SK텔레콤은 지난 9일 글로벌 반도체 설계 기업 Arm·국내 AI 반도체 스타트업 리벨리온과 차세대 AI 인프라 혁신을 위한 전략적 파트너십(MOU)을 체결했다고 10일 밝혔다.
SK텔레콤은 Arm·리벨리온과 파트너십을 체결함으로서 AI 데이터센터 사업 협력에 나선다
이재신 SKT AI 사업개발 담당은 “추론에 최적화된 인프라와 독자 파운데이션 모델 A.X K1을 결합한 풀 패키지를 제공함으로써 AI 데이터센터 경쟁력을 더욱 강화해 나가겠다”고 말했다.
에디 라미레즈 Arm 클라우드 AI 사업부 GTM 부사장은 “AI 추론의 급속한 성장은 대규모 배포에 최적화된 새로운 데이터센터 인프라 수요를 촉진하고 있다”고 설명했다.
이어 “SKT, 리벨리온과 같은 파트너는 Arm AGI CPU를 구축하고 AI 추론 인프라를 현대화하는 데 있어 중요한 역할을 하고 있다”고 덧붙였다.
오진욱 리벨리온 CTO는 “리벨리온은 압도적인 성능과 전력 효율을 갖춘 ‘리벨카드’와 풀스택 소프트웨어 경쟁력을 바탕으로 차세대 AI 데이터센터를 지탱하는 핵심 축을 담당하게 됐다”고 설명했다.
오 CTO는 “AI 특화 인프라 구축을 위해 각 분야 전문가들이 원팀으로 뭉친 이번 협력은 업계에서도 매우 유의미한 선례가 될 것으로 기대한다”고 강조했다.
이번 협약을 통해 3개사는 Arm이 새롭게 출시한 ‘Arm AGI CPU’와 리벨리온이 올해 3분기 출시 예정인 ‘리벨카드'를 서버에 탑재해 AI 추론 성능을 높이는 설루션을 공동 개발하고 SK텔레콤의 AI데이터센터에서 실증하기로 했다.
이번 협력의 배경에는 AI 산업이 AI 모델을 만드는 ‘학습’에서 실제 서비스를 제공하는 ‘추론’으로의 패러다임 변화가 있다.
이에 따라 AI 인프라의 핵심과제도 ‘학습’을 위한 연산 능력보다는 얼마나 적은 전력으로 얼마나 저렴하게 AI 서비스를 제공할 수 있느냐로 변하고 있다. AI 추론은 상대적으로 가벼운 연산을 빠르고 반복적으로 처리하는 작업이다.
‘Arm AGI CPU’는 Arm이 35년 역사상 처음으로 직접 생산에 나선 데이터센터용 프로세서로 AI 추론 서비스에 최적화 한 것이다. 리벨리온의 ‘리벨카드’도 대규모 AI 추론에 특화한 NPU다.
이 두 칩을 한 서버안에 탑재해 CPU가 데이터 처리와 시스템 운영 등 범용 연산을 담당하고 NPU가 AI 추론 연산을 전담하면 전력 효율을 높이고 운영 비용을 줄일 수 있다.
SKT는 이러한 방식이 대규모 AI 서비스를 운영하는 데이터센터에서 효율적인 서버 아키텍처라고 설명했다.
Arm과 리벨리온은 이미 지난달 진행한 ‘Arm 에브리웨어’ 행사에서 각 사의 칩을 결합해 오픈 AI의 언어모델인 GPT OSS 120B 기반의 에이전틱 AI 서비스를 시연했다. 또 대규모 데이터센터에서의 상용화 가능성을 보여줬다.
SKT는 해당 설루션을 적용한 서버를 자사 AI 데이터센터에 탑재해 성능과 안정성을 검증할 계획이다.
특히 SKT는 해당 서버로 SKT가 독자 개발한 AI 파운데이션 모델 에이닷엑스 케이원(A.X K1)을 운영하는 방안도 검토하고 있다. SKT는 이번 협력을 통해 저전력·고효율 AI 추론 인프라를 확보하고 AI DC 사업 경쟁력을 높이겠다는 복안이다.
댓글
0