AI DC 경쟁력 강화 나서
저전력·고효율·저비용 달성
[아시아타임즈=이동욱 기자] SK텔레콤이 글로벌 반도체 설계 기업 암(Arm), 국내 인공지능(AI) 반도체 스타트업 리벨리온과 AI 데이터센터(DC) 사업 협력에 나선다.
AI 추론 서버 솔루션 개발 협력 구조.(사진=SK텔레콤)
SKT은 9일 Arm, 리벨리온과 차세대 AI 인프라 혁신을 위한 전략적 파트너십(MOU)을 체결했다고 밝혔다.
이번 MOU를 통해 3개사는 Arm이 새롭게 출시한 ‘Arm AGI CPU’와 리벨리온이 올해 3분기 출시 예정인 ‘리벨카드(RebelCard™)’를 서버에 탑재한다. AI 추론 성능을 높일 수 있는 솔루션을 공동 개발하고 SKT의 AI DC에서 실증하기로 했다.
이번 협력은 AI 산업이 ‘학습(Training)’ 중심에서 실제 서비스를 제공하는 ‘추론(Inference)’ 중심으로 전환하고 있는 흐름 속에서 추진됐다. AI 인프라의 핵심 과제는 막대한 연산 능력을 요구하는 학습 중심에서 벗어나 얼마나 적은 전력으로 빠르고 효율적으로 AI 서비스를 제공할 수 있는지로 이동하고 있다.
AI 추론은 학습과 달리 가벼운 연산을 빠르고 반복적으로 처리하는 작업이다. GPU는 이런 추론 작업에도 사용할 수 있지만 마치 대형 트럭으로 택배를 배달하는 것처럼 과도한 전력을 소모하고 비용이 높다. 이에 업계에서는 추론에 특화된 전용 칩, 즉 신경망처리장치(Neural Processing Unit)가 새로운 대안으로 부상하고 있다.
NPU에 CPU를 결합하는 이유도 명확하다. 실제 AI 서비스 운영에서는 AI 연산 외에도 데이터 입출력, 네트워크 통신, 메모리 관리, 작업 스케줄링 등 다양한 범용 처리가 동시에 필요하다. CPU가 시스템의 '관제탑' 역할을 하며 데이터 흐름과 시스템 운영을 총괄하고 NPU가 AI 추론 연산을 전담하는 이종 컴퓨팅(Heterogeneous Computing) 구조는 시스템의 성능과 효율을 높일 수 있다.
advertisement
advertisement
SKT는 해당 루션을 적용한 서버를 자사 AI DC에 탑재해 성능과 안정성을 검증할 계획이다. 특히, 해당 서버로 SKT이 독자 개발한 AI 파운데이션 모델 에이닷엑스 케이원(A.X K1)을 운영하는 방안도 검토 중이다. SKT은 이번 협력을 통해 저전력·고효율 AI 추론 인프라를 확보하고 AI DC 사업 경쟁력을 한층 높일 계획이다.
이재신 SKT AI 사업개발 담당은 “추론에 최적화된 인프라와 독자 파운데이션 모델 A.X K1을 결합한 풀 패키지를 제공함으로써 AI 데이터센터 경쟁력을 더욱 강화해 나가겠다”고 말했다.
댓글
0