SK텔레콤이 글로벌 반도체 설계 기업 Arm, AI 반도체 스타트업 리벨리온과 손잡고 저전력·고효율 AI 추론 인프라 개발에 나선다. AI 산업의 무게중심이 ‘학습’에서 ‘추론’으로 이동하면서 전력 효율이 곧 비용 경쟁력으로 직결되는 시대에 대응하기 위해서다.
SK텔레콤 사옥. / 뉴스1
SK텔레콤은 Arm, 리벨리온과 차세대 AI 인프라 혁신을 위한 전략적 파트너십(MOU)을 체결했다고 10일 밝혔다.
이들 기업은 이번 협약을 통해 Arm이 새롭게 출시한 ‘Arm AGI 중앙처리장치(CPU)’와 리벨리온이 올해 3분기 출시 예정인 ‘리벨카드(RebelCard)’를 서버에 같이 탑재해 AI 추론 성능을 높일 수 있는 설루션을 공동 개발하고 SK텔레콤의 AI데이터센터에서 실증하기로 했다.
이번 협력의 배경에는 AI 산업이 AI 모델을 만드는 ‘학습(Training)’에서 실제 서비스를 제공하는 ‘추론(Inference)’으로의 패러다임 변화가 있다. 이에 따라 AI 인프라의 핵심과제도 ‘학습’을 위한 막대한 연산 능력보다는 얼마나 적은 전력으로 얼마나 빠르고 저렴하게 AI 서비스를 제공할 수 있느냐로 변하고 있다. 추론은 365일 쉬지 않고 작동해야 되기 때문에 전력 효율이 곧 비용 경쟁력과 직결된다.
SK텔레콤은 해당 설루션이 적용된 서버를 자사 AI 데이터센터에 탑재해 성능과 안정성을 검증할 계획이다. 특히, 해당 서버로 SK텔레콤이 독자 개발한 AI 파운데이션 모델 에이닷엑스 케이원(A.X K1)을 운영하는 방안도 검토 중이다. SK텔레콤은 이번 협력을 통해 저전력·고효율 AI 추론 인프라를 확보하고 AI DC 사업 경쟁력을 한층 높일 계획이다.
댓글
0