[피지컬 AI와 서버②]HPC 서버, 데이터 보안부터 초고속 재학습까지

피지컬 AI가 본격 확산되면서 요구되는 서버 인프라는 크게 추론(inference)과 학습(training) 두 가지다. 이 두 영역이 요구하는 성능 특성과 인프라 구조는 근본적으로 다르며, 각각 독립적인 인프라 전략을 필요로 한다.

<관련기사: [피지컬 AI와 서버①]AI 추론 서버, 온실을 나와 혹독한 현장으로>

피지컬 AI의 특성상 추론만큼 재학습 모델의 반영과 배포의 속도가 중요하다. 현장에서 수집된 새로운 데이터를 계속 반영, 지속적으로 AI 모델을 갱신하고, 이를 통해 에지에서 더욱 스마트하게 추론하게 된다.

일반적으로는 AI 모델 재학습에 프라이빗 클라우드를 이용하거나 클라우드 서비스를 활용하지만 피지컬 AI 현장에서 발생하는 수많은 센서 데이터들을 클라우드로 보내는 건 현실적으로 어렵다. 또 전자부품 제조, 특히 방산 등 보안에 민감한 업종에서는 데이터를 외부로 보내는 것을 꺼려한다.

이는 학계와 연구용에 주력해 왔던 HPC(High-Performance Computing)의 새로운 기회가 되고 있다. 현장에서의 에지 추론 서버가 피지컬 AI의 '실행 두뇌'라면, 그 두뇌를 끊임없이 더 똑똑하게 만드는 '학습 엔진'으로서 HPC 서버가 필요해졌다.

◇피지컬 AI 환경, 온프레미스 모델 재학습 요구

피지컬 AI 환경에서 HPC가 부상하는 이유는 두 가지다. 첫째, 현장 데이터 규모와 모델 재학습에 요구되는 속도다. 두 번째는 데이터 주권과 보안이다.

우선 데이터가 있는 곳에서 처리한다는 피지컬 AI 서버의 원칙은 에지 추론뿐 아니라 모델 재학습도 마찬가지다. 피지컬 AI 인프라는 현장에서 지속적으로 생성되는 데이터를 습득, 모델에 반영해 개선되는 순환 구조를 형성하게 된다. 데이터 생성→학습→모델 업데이트→재배포가 반복되는 폐쇄형 학습 루프(closed-loop learning)다.

스마트 팩토리 환경을 가정해보면, 생산 라인에 배치된 로봇과 설비는 카메라, 센서, 제어 로그 등을 통해 실시간 데이터를 생성한다. 초기에는 학습된 비전 모델을 기반으로 불량을 탐지하거나 공정 이상을 감지하지만, 시간이 지남에 따라 새로운 유형의 불량이나 예상하지 못한 공정 변동이 발생하게 된다.

이러한 데이터들은 일정 주기마다 모델 재학습에 활용되는데, 이 과정에서 공정 조건을 바꿔가며 최적의 생산 방식을 찾는 강화학습(Reinforcement Learning)이 적용될 수 있다. 환경과 상호작용하며 최적의 행동을 학습하는 강화학습은 수많은 시행착오와 반복적인 시뮬레이션을 통해 정책을 개선하는 구조를 가진다.

그런데 수백 대의 산업용 로봇, 수천 개의 센서, 고해상도 비전 카메라가 하루에 수 테라바이트의 데이터를 쏟아낸다. 이 대용량 데이터를 클라우드로 업로드하는 것은 네트워크 대역폭과 비용 문제 모두에서 비현실적이다.

또 실제 데이터를 그대로 활용하기에는 보안과 안전, 비용을 이유로 디지털 트윈을 사용해 합성 데이터(synthetic data)로 학습을 시키는 방법도 존재한다. 합성 데이터 생성, 다양한 조건의 시뮬레이션 운영은 단순한 모델 실행을 넘어 물리 엔진, 센서 모델링, 환경 변수를 포함한 복합 연산을 요구한다.

HPC의 기본 아키텍처. (자료 출처=Neysa)

디지털 트윈 환경에서 극단적인 상황을 포함해 다양한 조건을 학습해야 할 경우 수천 개 이상의 시뮬레이션이 동시 실행될 수도 있다. 이러한 학습은 일반 GPU 서버로는 한계에 부딪힌다. 1~8개의 GPU를 단일 노드에서 활용하는 일반 GPU 서버로는 개별 모델 학습이나 중간 규모의 데이터 처리는 가능하지만, 피지컬 AI의 강화학습, 시뮬레이션, 멀티모달 데이터 학습과 같은 작업이 요구하는 연산 능력은 이 수준을 넘어선다.

피지컬 AI에서 AI 모델의 재학습과 강화학습은 추론 서버보다 더욱 고성능을 요구한다. 추론 작업은 모델이 이미 학습된 상태에서 실행되기 때문에 학습에 비하면 연산 패턴이 단순하고 반복적이다. 또 최적화된 경량 모델을 사용하면 소수의 GPU 또는 저전력 가속기로도 처리 가능하다.

수천 개 이상의 환경을 동시 실행하고 정책을 업데이트하는 과정에서는 GPU 간 통신 효율과 클러스터 스케일링이 성능을 결정짓는다. 이에 최적화된 아키텍처가 HPC다. 즉, 고속 인터커넥트와 병렬 연산(클러스터링)이 핵심이다. 분산 학습(Distributed Training)에서도 마찬가지다.

빠른 모델 재학습은 고속 네트워킹과 병렬 연산  필요

AI 모델의 분산 학습(Distributed Training)은 여러 대의 서버나 GPU가 협력해 하나의 모델을 함께 학습시키는 방법이다. 파라미터가 수십억, 수조개로 늘어나 모델이 거대해질수록 메모리 한계와 처리 시간 때문에 필수로 쓰인다. 모델의 크기가 작아도 데이터가 많고 다회성 실험을 할 경우에는 빠른 결과물을 얻기 위해 분산 학습을 적용한다.

분산 학습은 데이터 병렬(동일 문제를 여러 서버가 나눠 풀고 결과를 통합), 모델 병렬(문제 자체를 나눠서 각 서버가 각각 다른 부분을 담당)로 구분되지만 보통은 이를 혼합해 파이프라인(작업이 순서대로 진행)을 구성한다. 이러한 분산 학습에서 병목의 핵심은 GPU 간 데이터(그라디언트) 교환, 즉 통신에 있다.

AI 강화 HPC 시장 성장 추이. (자료 출처=테크나비오)

피지컬 AI에서 분산 학습을 하는 이유는 모델을 빠르게 업데이트하기 위해서이며, 이 때문에 서버(노드) 간 실시간에 준하는 그라디언트(gradient) 교환이 요구된다. 그러나 그라디언트 계산을 마지막으로 완료하는 서버의 시점, 중앙 파라미터 서버로의 트래픽 집중이 병목의 원인이다. 이를 해결하기 위해 중앙 파라미터 서버 대신, 각 서버가 나눠 계산하고 취합하는 올리듀스(All-Reduce) 방식을 사용하는데, 이는 네트워크 속도와 품질을 더욱 요구한다.

GPU 간 통신 속도와 네트워크 지연이 전체 학습 성능을 좌우하기 때문에 NVLink, 인피니밴드(InfiniBand) 등 고속 인터커넥트를 기반으로 다수의 GPU를 하나의 시스템처럼 묶어 동작시키는 HPC 아키텍처가 필요해진다. 이는 피지컬 AI의 모델 재학습 속도는 GPU 자체의 성능이 아니라 △대규모 병렬 연산 △노드 간 통신 효율에 있기 때문이다.

그렇다면 도메인 특화 언어 모델(DSLM, Domain-Specific Language Model)을 활용하면 모델 규모를 줄여서 하드웨어 인프라 비용을 낮출 수 있지 않을까. 가능하다.

DSLM은 가트너의 2026년 전략 기술 트렌드 중 하나다. 가트너는 영업, 마케팅, 인사관리 등 각 업무부문에 최적화된 DSLM을 예로 들었지만 반도체 공정이나 자동차 용접, 물류 등 피지컬 AI 역시 범용 모델이 아닌 해당 현장 데이터로 미세조정된 특화 모델이 더 적합할 수 있다. 해당 분야의 전문 용어와 맥락을 정확히 이해하고 내부 데이터로 직접 학습시켜 데이터 환각이나 외부 유출 위험도가 줄어든다.

피지컬 AI 생태계. 도메인 특화 모델(2)과 소버린(7)이 포함돼 있다. (자료 출처=PWC)

DSLM의 재학습 시에도 전제 파라미터 재학습(Full fine-tuning)이 아닌 LoRA(Low-Rank Adaptation) 방식으로 학습 속도를 높일 수 있다. 새로운 현장 데이터가 들어오면 기존에 학습된 LoRA 어댑터만 추가로 미세조정하거나 새로운 LoRA 레이어를 중첩하는 방식으로 재학습하면 하드웨어 부하를 최소화하고 기존 지식의 손실 없이 현장 적응력을 만족시킬 수 있다.

도메인 특화 모델로 현장 인프라 부담 덜 수 있어

LoRA는 모델의 전체 가중치를 수정하는 대신, 전체 성능에 영향을 주는 결정적 1%의 가중치 변화량만 효율적으로 업데이트하는 방식이다. 모델 재학습에 필요한 파라미터 수가 줄어들기 때문에 그라디언트 통신량도 줄어들어 메모리 부담을 덜면서 학습 속도를 높일 수 있다.

다만 이는 피지컬 AI 적용 범위에 대한 철저한 내부 검토, 향후 계획이 필수다. GPU가 8개 이상 필요하거나 다수의 현장에서의 분산 학습, 이후 확장성을 염두에 두고 있다면 결국 HPC를 선택해야 할 수도 있다.

우선 DSLM과 LoRA 재학습이 가볍다고 해도 이는 단일 모델에 대해서다. 피지컬 AI는 비전 모델, 이상 감지 모델, 제어 모델이 함께 실행된다. 또 서버는 LoRA 재학습뿐 아니라 이를 위한 데이터 수집, 전처리, 검증, 배포까지 파이프라인 전체를 운영한다. 예를 들어 10개의 설비라인에서 카메라 100대, 센서 1000개가 동시에 데이터를 쏟아낼 때 그 데이터를 전처리하고 학습 큐에 올리는 것 자체가 이미 단일 GPU의 한계를 넘는다.

포춘 비즈니스 인사이트는 시뮬레이션 환경에서 복잡하고 방대한 데이터를 만들어내는 생성형 AI가 HPC 수요를 이끌어내고 있으며 올해 글로벌 HPC 시장 규모가 646억 달러에 이를 것으로 보고 있다. (자료 출처=포춘 비즈니스 인사이트)

이와 함께 현장 설비 하나가 추가될 때마다 데이터는 기하급수적으로 늘어나고, 모델 재학습의 필요성은 수시로 일어난다. 공정이나 불량 패턴이 바뀌면 그 즉시 반영돼야 한다. 또 이후 다른 현장으로 확장하는 경우 등 GPU 추가만으로는 어려운 상황 발생한다.

GPU의 추가 장착 혹은 GPU 서버 추가와 HPC의 차이점은 노드 간 통신 속도에 있다. 설치나 전력, 관리 비용은 이후 문제다.

일반적으로 GPU 간 통신은 PCIe로 CPU를 거치기 때문에 속도가 느려진다. 이를 해결하는 것이 엔비디아의 NVLink로, CPU를 거치지 않고 GPU 간 직접 통신을 한다. 그런데 이는 서버 내일 때다. 여러 대의 서버로 멀티노드를 구성했을 때는 이더넷이 GPU를 기다리게 만든다.

이 문제를 해결하기 위해 기존 서버의 PCIe 슬롯에 인피니밴드 카드를 장착해 서버 간 통신 속도를 높일 수 있다. 다만 통합 최적화와 확장성 문제가 있다. 서버 제조사, 인피니밴드 제조사, OS 스택이 제각각일 때 장애 발생 시 원인을 규명하기 힘들고 클러스터 구축과 관리도 문제다. HPC는 GPU, CPU, 메모리, 네트워크 카드가 최단 거리로 연결되도록 메인보드 수준에서 설계된다. GPU를 많이 사용하게 될수록 운영과 관리 면에서 효율적이다.

소버린 AI와 지오패트리에이션, 온프레미스 학습 요구

피지컬 AI 구현에서 HPC 수요의 다른 축은 데이터 주권과 보안이다. 방산, 반도체, 자동차 등에서 설계·공정 데이터는 규제와 기밀 유지 요건상 퍼블릭 클라우드에 올릴 수 없다. 가트너가 2026년 전략 기술 트렌드 중 하나로 '지오패트리에이션(Geopatriation)'을 꼽는 이유 중 하나다.

지오패트리에이션은 Geo와 Repatriation(본국 송환)의 합성어로, 기업이 지정학적 요인으로 인해 자국이나 특정 지역으로 디지털 기술과 인프라를 이전하는 현상을 뜻한다. 특정 국가의 기술에 대한 의존도를 낮추기 위해 자국 또는 대안 지역의 하드웨어, 소프트웨어, 서비스로 인프라를 전환하거나 디지털 자산을 분산 배치하는 것도 포함한다.

가트너의 2026 전략 기술 트렌드 톱10. 피지컬 AI와 DSLM, 지오패트리에이션 등이 포함돼 있다. (자료 출처=가트너)

국가별 데이터 주권 강화, 수출 통제와 제재, 그리고 국경 간 데이터 이전 규제와 같은 지정학적 리스크로 인해 지오패트리에이션이 등장했으며, 각국의 규제에 일일이 대응하는 것이 오히려 기업 운영 복잡성과 비용을 증가시키고 있어 실용적 이유로 지오패트리에이션이 증가할 것으로 전망하기도 한다.

또 보안에 민감한 산업 현장에서 생성되는 데이터는 외부로 이동시킬 수 없다. 이러한 경우 연합 학습(Federated Learning)을 이용하기도 하지만, 생성되는 데이터 양이 방대하면서 폐쇄망 환경 내에서 재학습이 필요하고 모델 재학습 주기가 짧을 경우 HPC가 적절하다.

연합 학습이란?

보안에 민감하면서 여러 현장으로 나눠져 있는 곳이라면 연합 학습(Federated Learning)으로 모델 재학습이 가능하다. 로컬 데이터를 기반으로 모델을 학습한 뒤, 모델의 가중치 업데이트만 중앙 서버로 전송하여 통합하는 방식이다. 이 과정에서 차등 정보보호(Differential Privacy)와 같은 기법을 통해 데이터 보안을 강화할 수 있다.

연합 학습은 네트워크 지연과 노드 이질성을 고려해 비동기식이거나 느슨한 동기화 방식으로 설계되며, HPC 수준의 고속 네트워크를 요구하지는 않는다. 그러나 연합 학습은 데이터를 한 곳에 모을 수 없는 경우를 위한 차선책이다. 데이터가 각 노드에 분산돼 있고 직접 공유되지 않기 때문에 분산 학습보다 모델의 수렴 속도가 느리고 최종 성능이 저하될 가능성이 크다.

또 각 참여 노드의 데이터 분포가 상이한 경우 학습 결과가 편향될 수 있다. 이를 보정하기 위해 추가 작업이 필요해진다. 또 참여 노드의 네트워크 품질이나 계산 성능 등에 따라 전체 학습 속도가 좌우되므로, 학습 시간이 길어진다.

피지컬 AI의 이러한 요구는 HPC에도 변화를 일으키고 있다. 과거 HPC는 CPU 중심의 대규모 계산을 수행하는 중앙집중형 슈퍼컴퓨팅 환경으로, 기상 예측, 물리 시뮬레이션, 신약 개발 등 연구기관과 학계 중심의 워크로드, 특히 일회성 배치 작업을 수행하는 데 최적화돼 있었다. 그러나 AI 시대의 HPC는 GPU 중심 아키텍처, 고속 인터커넥트, 분산 학습 프레임워크가 결합된 형태로 바뀌며 산업 현장으로 확장되고 있다.

서버 업체들은 피지컬 AI를 차세대 전략 키워드로 선정하고 관련 인프라 솔루션을 쏟아내고 있다. 이 중 HPC 제품을 보유했던 서버 업체들로는 HPE, 슈퍼마이크로컴퓨터, 레노버 등이 있다.

HPC의 모태 슈퍼컴퓨터의 전설 크레이를 인수한 후 꾸준히 HPC 사업을 지속해온 HPE는 연구소용에서 기업용으로 다듬어 AI 워크로드를 통합한 HPC '크레이 XD' 브랜드 제품들을 내놓았다. 대규모 AI 학습용 XD670, AI 추론과 HPC 겸용의 XD675, 스케일아웃 HPC용 XD2000 등이 있다. 이를 크레이 슈퍼컴퓨팅 GX 플랫폼이란 브랜드로 전환하는 중이다.

슈퍼마이크로컴퓨터는 자사의 데이터센터 빌딩 블록 솔루션(DCBBS)과 엔비디아 HGX B300을 결합한 SYS-822G-TNR 시리즈를 피지컬 AI용 HPC로 내세운다. 이 제품은 20U 폼팩터에 8개의 블랙웰 B300 GPU를 응축한 모델로, 슈퍼마이크로의 OCP(Open Compute Project) 랙 스케일 아키텍처를 통해 랙당 144개의 GPU를 구성할 수 있는 집적도를 자랑한다.

과거 HP(현 HPE), 델, IBM 등이 완제품 브랜드로 HPC 시장을 점유할 때, 슈퍼마이크로는 메인보드와 섀시 등 핵심 부품(빌딩 블록)을 공급하거나 맞춤형 서버를 제작해 주는 방식으로 HPC 인프라를 지탱해 왔다. 대학 등 연구기관이 예산에 맞춰 고성능 클러스터를 '조립'할 때 가장 먼저 찾는 화이트박스(Whitebox)의 강자였다.

슈퍼마이크로컴퓨터는 이를 기반으로 현재는 엔비디아의 설계를 가장 빠르게 제품화(Time-to-Market)하는 능력을 인정받고 있으며, 액체 냉각 기술과 초고밀도 설계를 결합한 랙스케일 솔루션을 통해 AI 시장을 공략하고 있다. 슈퍼마이크로의 슈퍼블레이드(SuperBlade)는 고밀도·고성능 워크로드를 위한 블레이드 서버 플랫폼이다.

레노버의 에브리스케일 HPC/AI 플랫폼. (자료 출처=레노버)

레노버의 경우 전 세계 슈퍼컴퓨터(Top 500) 리스트에서 점유율 1위를 차지할 정도로 강력한 HPC 전문 벤더다. 과거 IBM의 x86 서버 부문을 인수한 이후, 그 기술력을 바탕으로 HPC 시장의 강자로 군림해 왔다.

레노버는 소형 서버부터 슈퍼컴퓨터까지 하나의 아키텍처로 확장 가능한 HPC/AI 인프라 전략 '에브리스케일(EveryScale)'을 내세우고 있다. HPC 대표 브랜드는 '넥스트스케일(NeXtScale)'이지만 씽크시스템 SC777 V4 넵튠(Neptune) 등과 함께 고성능 시뮬레이션부터 에지 학습/추론까지 모든 서버 인프라를 제공 가능하다는 것이다.

레노버는 'AI 이노베이터 프로그램(AI Innovators Program)'을 통해 AI 생태계를 지속적으로 확장하면서 국내외 ISV들과 협력해 자사 인프라 위에서 구동되는 산업 특화 AI 솔루션을 검증된 형태로 제공하고 있다고 강조했다.

윤석준 레노버 글로벌 테크놀로지 코리아(ISG) 부사장은 "HPC 플랫폼은 단순한 하드웨어를 넘어 솔루션으로 즉시 적용 가능한 AI 환경으로 진화하고 있다"며 "글로벌 규모와 폭넓은 생태계를 기반으로 각 시장에 적합한 상용 수준의 HPC와 AI 솔루션으로 구현해내는 실행 역량이 레노버의 경쟁력"이라고 주장했다.

비즈니스 리서치 컴퍼니는 전 세계 HPC 시장 규모가 2030년까지 10.4%의 연간평균성장률을 보일 것으로 전망한다. (자료 출처=비즈니스 리서치 컴퍼니)

해외 시장 조사 업체 비즈니스 리서치(The Business Research Company)는 2월 발표한 보고서(High-Performance Computing Global Market Report 2026)에서 "과거에는 정부의 슈퍼컴퓨팅 인프라 투자가, 이제부터는 AI와 머신러닝 기반 워크로드 급증이 HPC 시장 성장을 견인하고 있다"고 밝혔다.

이 보고서에 따르면 지난해 전 세계 HPC 시장 규모는 558억8000만달러에 이른다. 올해 시장 규모는 615억달러, 2030년까지 연평균 성장률(CAGR) 10.4%로 913억8000만달러 규모가 될 것으로 전망하고 있다.

포춘 비즈니스 리서치도 비슷한 말을 전하고 있다. 이달 발표한 HPC 시장 전망 보고서에서 "시뮬레이션 환경에서 복잡하고 방대한 데이터를 만들어내는 생성형 AI가 HPC 수요를 이끌어내고 있다"며 "병렬 처리와 고속 인터커넥트의 HPC가 AI 학습 프로세스를 크게 가속화할 수 있다"고 밝혔다. 포춘 비즈니스 리서치는 글로벌 HPC 시장 규모가 지난해 593억달러로 추정하며 올해 646억달러, 2034년 1288억달러 규모에 이를 것으로 기대하고 있다.

분산 학습과 올리듀스란?

분산 학습에서 그라디언트(gradient)는 AI 모델이 더 정확한 예측을 하기 위해 매개변수(Weight, 가중치)를 어느 방향으로, 얼마나 수정해야 하는지를 나타내는 지표다. 각 서버는 할당받은 데이터를 바탕으로 현재 모델의 오차(Loss)를 계산하고, 이 오차를 줄이기 위해 각 파라미터를 어떻게 바꿔야 할지에 대한 로컬 그라디언트를 구한다.

각 서버가 받은 데이터가 다르기 때문에 그라디언트 값도 다르다. 이 값들을 하나로 모아야 모델을 일관성 있게 업데이트할 수 있는데, 각각의 로컬 그라디언트를 모으는 과정에서 보통 파라미터 서버(Parameter Server)를 사용한다. 이는 중앙에서 각 로컬 그라디언트를 취합하는 서버로, 로컬 그라디언트를 취합해 모델 파라미터를 업데이트하고, 수정된 모델 파라미터를 각 서버에 재배포하는 역할을 한다.

이를 통해 모든 서버가 동일한 평균 그라디언트(Averaged Gradient)를 공유하게 되면, 이를 기반으로 각자의 모델 파라미터를 동시에 수정한다. 이 과정을 반복함으로써 대규모 데이터를 여러 장치에서 효율적으로 학습할 수 있다.

이 로컬 그라이언트들을 언제 합치는지에 따라 분산 학습은 동기식(Synchronous)과 비동기식(Asynchronous)으로 나뉘는데, 동기식(Synchronous SGD)은 모든 서버가 로컬 그라디언트 계산을 다 마쳐야 시작된다. 모델 파라미터 수정도 한 번에 적용된다. 비동기식(Asynchronous SGD)은 계산이 끝난 서버부터 즉시 모델을 업데이트해 순차적으로 진행되는 방식이다.

동기식 분산 학습의 문제는 제일 늦은 서버(GPU)가 기준이 된다는 점이다. 이 서버를 낙오자(Straggler)라고 일컫는데, 속도가 느린 서버에 전체 학습 속도가 맞춰진다. 한 서버만 늦어도 다른 모든 서버들은 대기해야 한다. 또 중앙 서버에 연산과 모델 수정이 집중되므로 중앙 서버도 병목 지점이 될 수 있다. 대신 학습이 안정적이다.

비동기식은 각 서버들이 유휴 상태 없이 그라디언트 계산과 모델 파라미터 수정을 진행하므로 하드웨어 효율성이 높고 속도도 빠르지만, '스테일 그라디언트(Stale Gradient)'라는 치명적 단점이 있다. 스테일 그라디언트는 어떤 서버가 로컬 그라디언트를 계산하는 동안 다른 서버에선 모델이 업데이트돼, 이전 모델로 계산한 그라디언트가 최신 모델에 반영되는 것이다. 이로 인해 실행할 때마다 결과가 달라지고, 미세조정 난이도가 올라가며, 궁극적으로는 모델의 정확도가 낮아지기 때문에 초대형 모델에서는 동기식이 주로 쓰인다.

동기식 분산 학습의 단점을 보완하기 위해 나온 방식이 올리듀스(All-Reduce)로, 중앙의 파라미터 서버 없이 각 서버들이 직접 데이터를 주고받으면서 각 그라디언트 값을 순차적으로 합치고(Reduce), 최종 합산 결과를 복제함으로써 공유한다(Broadcast). 이 과정에서 GPU 숫자의 2배수만큼 통신(계산)을 한다.

예를 들어 GPU가 8개라면 8개의 로컬 그라디언트가 있고, 1번은 2번으로 내 그라디언트 값을 보내는 동시에 8번의 그라디언트를 받아 내 값과 합친다. 이 과정을 각 GPU들이 각각 수행한다. 즉, 7번 돌면서 그라디언트의 총합이 완성되고, 다시 7번 돌면서 결과값이 공유되는 게 올리듀스 방식이다. 이는 올리듀스 방식 중에서 링(Ring) 올리듀스다.

올리듀스 방식을 적용해도 특정 서버의 그라디언트 계산이 늦어지면 전체 성능은 저하된다. 그러나 동기식 분산 학습에서 낙오자 서버로 인한 병목을 그나마 해소하고, 중앙 서버 의존을 줄여 대규모 클러스터에서 훨씬 빨라진다. 대신, 모든 GPU가 동시에 상호 통신하기 때문에 통신 품질과 통신 속도에 더욱 민감하다.

낙오자(Straggler) 서버는 GPU 성능이나 하드웨어 스펙을 동일하게 구현해도 잔존한다. 발열 등 주변 환경으로 인한 GPU 성능 저하, 패킷 손실이나 특정 노드 지연 등 네트워크 문제, 각 서버가 처리하는 데이터의 불균형(사전 작업에 소요되는 시간 등), 시스템 내 다른 프로세스의 간섭 등으로 서버 간 성능 불균형은 어쩔 수 없다.

박현선 전문기자