박정국 엘리스그룹 CTO (사진=엘리스그룹)
“AI 데이터센터의 성패는 '규모'가 아니라, 얼마나 빨리 짓고 GPU 자원을 100% 가까이 활용할 수 있는지 ‘운영 역량’에 달렸습니다.”
글로벌 빅테크의 인프라 경쟁에서는 AI 데이터센터(AIDC)가 핵심으로 꼽힌다. 하지만 기존 빌딩형 데이터센터는 조 단위 천문학적인 비용과 3년 이상의 건축 기간으로 공급이 수요를 못 따라가는 구조에 직면했다.
그 해법으로 ‘모듈형 데이터센터(PMDC)’를 선보이며 새로운 패러다임을 제시한 박정국 엘리스그룹 최고 기술책임자(CTO)를 만나 이야기를 나눴다.
■ 교육 플랫폼에서 시작된 고민, GPU 효율화의 결실로
엘리스그룹의 PMDC 사업은 현장의 고민에서 시작됐다. 초기 사업 모델은 AI 실무 교육 플랫폼이었으나, 실시간 실습 환경을 제공하기 위해서는 GPU 자원 관리가 필수였다.
박정국 CTO는 “당시 GPU를 빌려 쓰지 않고 직접 사서 운영했는데, 교육 피크 타임에는 자원이 부족하고 빈 시간에는 노는 문제를 해결하고 싶었다”라며 “GPU를 쪼개 효율적으로 쓰기 위해 클라우드 사업에 진출했고, 이를 최적화하다 보니 데이터센터 영역까지 확장하게 됐다”라며 사업 계기를 밝혔다.
현재 엘리스그룹은 PMDC를 포함한 AI 인프라 매출 비중이 40%를 넘어서며 본격적인 성장 궤도에 진입했다.
■ 아시아 최초 수랭식 도입 "공기보다 물이 열전달에 효과적"
데이터센터는 전기실, 전산실, 정전에 대비한 배터리(UPS), 열을 식히는 냉각 설비 등으로 구성된다. 그중 GPU가 내뿜는 열을 효율적으로 관리하는 냉각 기술이 핵심으로 꼽힌다.
엘리스그룹은 아시아 최초로 '수랭식' 모듈형 데이터센터를 상용화했다고 밝혔다. 에어컨처럼 찬 바람으로 식히는 ‘공랭식’과 달리 냉각수 파이프가 뜨거운 칩 위를 직접 지나가며 열을 식히는 방식이다.
엘리스그룹 PMDC 구조도 (사진=엘리스그룹)
박 CTO는 “공기는 물보다 열전달 효율이 낮아 GPU의 발열을 잡는 데 한계가 있다"라며 "수랭식 냉각이 결합해야 비로소 시너지를 낼 수 있다"라고 설명했다. 또 "누수 문제도 다중 차단 설계로 철저히 대비해 문제없다”라고 덧붙였다.
특히 통신 속도를 높이기 위해 GPU를 촘촘하게 배치하는 ‘멀티 랙 클러스터링’ 구조에서는 수랭식 냉각이 선택이 아닌 필수라는 설명이다.
■ 레고처럼 조립 가능한 모듈형 구조로 비용·속도·효율 다 잡아
여기에 모듈형 구조를 결합해 시너지 키웠다는 설명이다.
역시 최대 강점은 속도다. IDC는 인허가에만 수년이 걸리지만, PMDC는 3개월이면 구축이 가능하다. 공장에서 90% 이상 사전 제작해 현장에 안착하는 ‘프리팹(Pre-fab)’ 덕분이다.
유연한 설치 환경도 강점이다. 기존 IDC를 개조하지 않고도 유휴 부지에 설치할 수 있으며 니즈에 따라 커스터마이징도 가능하다.
박 CTO는 “기업의 요구에 따라 전기 설비만 따로 분리하거나 유닛별로 자유로운 구성이 가능해 비용 효율적일 뿐만 아니라 물리적 격리로 화재 등의 리스크에도 안전하다”라고 강조했다.
엘리스그룹 PMDC 설치 방식 (사진=엘리스그룹)
보안 측면에서도 유리하다는 설명이다. 박 CTO는 “기존 IDC는 여러 기업이 임대해 공유하는 방식이라 보안 우려가 크다”라며 “PMDC는 ‘나만의 IDC’ 구축이 가능해 보안 민감도가 높은 기업들로부터 수요가 많다”라고 덧붙였다.
■ 짓는 게 다가 아니다...진정한 경쟁력은 '운영 최적화'
엘리스그룹은 규모와 전력량으로 승부하는 시스템 통합(SI) 기업과는 다르다는 자신감을 가지고 있다. 구축 이후 ‘어떻게 잘 돌릴 것인가’가 진정한 실력이라고 강조했다.
박 CTO는 “무조건 크게 짓고 나중에 용도를 고민하는 데이터센터는 효율이 낮을 수밖에 없다”라며 “AI 모델 학습용인지 데이터베이스(DB) 구축용인지 설계 단계부터 고려하지 않으면 운영 단계에서 큰 문제가 생긴다”라고 지적했다.
이어 “엘리스그룹은 설계 단계부터 GPU 효율화에 포커스를 맞춰 설계한 엔드투엔드(End-to-End) 서비스로, 이는 쉽게 따라 할 수 없는 기술”이라고 자부했다.
현재 엘리스그룹은 GPU 성능을 100% 가까이 사용할 수 있는 자체 인프라 솔루션 ‘ECI(엘리스 클라우드 인프라스트럭처)’를 패키지로 제공 중이다. 이를 통해 서비스 품질 보장 지표인 SLA 99.99%에 준하는 성능을 확보했다.
최근에는 리벨리온 등 국산 NPU도 운용 가능한 하이브리드 구조를 도입했으며, 조만간 GPU 'B300' 등 최신 모델 576장을 탑재한 1.2메가와트(MW) 버전도 출시 예정이다.
박정국 엘리스그룹 CTO (사진=엘리스그룹)
■ 피지컬 AI 진입 맞춰 규제 해결 필요
박 CTO는 미래 AI 시장이 로봇이 판단하고 움직이는 ‘피지컬 AI’로 진화함에 따라 현장 인근에서 데이터를 즉시 처리하는 ‘엣지 데이터센터’의 수요가 폭발할 것으로 내다봤다.
하지만 현재 국내는 모호한 건축 및 전력 규제로 인해 도입이 더딘 상황이다.
박 CTO는 “챗봇은 0.1초 차이가 잘 체감되지 않을 수 있으나, 산업 현장의 로봇은 차이가 크다”라며 “피지컬 AI라는 본 게임에 돌입하기 전에 선제적으로 준비해, 규제 완화로 PMDC가 활성화된다면 국내도 글로벌 AI 경쟁 흐름에 빠르게 합류할 수 있을 것”이라고 말했다.
여기에 엘리스그룹은 현재 태양광, 풍력, ESS(에너지 저장 장치) 연계 실증을 통해 차세대 기술 도입을 위한 도전을 계속하고 있다고 밝혔다.
박 CTO는 “소버린 AI를 달성하기 위해 국산 기술 중심의 인프라를 구축하는 만큼 국내 에너지 및 제조 산업과 함께 성장하는 생태계를 만드는 것이 최종 목표”라고 강조했다.
김해원 기자 hwkim@aitimes.com
댓글
0