[테크 아리랑] AI 전쟁 2라운드...인프라 확보에 기업·국가 총력전

GPU에 AIDC, 전력망까지...모델 넘어 운영 경쟁 국면

조 단위 투자·특별법 제정도...민간 넘어 국가 의제화

한국의 테크 기업들은 AI라는 거대한 변곡점 앞에서 중대한 갈림길에 서 있다. 반도체와 클라우드, 플랫폼과 데이터, 에너지와 지정학이 복잡하게 얽힌 시대 속에서 이들은 어떠한 경쟁력을 바탕으로 다음 고비를 넘어설 것인가에 대한 치열한 고민을 하고 있다. 테크M은 창간 6주년을 맞아 한국적 정서를 담은 기획 시리즈 '테크 아리랑' 6편을 게재한다. 이를 통해 글로벌 기술 패권 경쟁의 격랑 속에서 국내 테크 기업들이 지닌 강점과 한계를 짚고, 새로운 기회를 모색해 나가는 여정을 따라가본다. <편집자주>

챗GPT의 등장으로 AI에 대한 관심이 급증했던 2023년 이후 기술 활용 범위와 규모가 눈에 띄게 증가했다. AI 활용에 소요되는 자원도 이런 흐름에 맞춰 늘어나면서 AI를 둘러싼 시장 경쟁 양상이 모델과 인프라를 아우르는 전방위적 형태로 변화하고 있다. /사진=챗GPT

AI 경쟁의 무게중심이 바뀌고 있다. 전 세계적 AI 열풍에 불을 당겼던 챗GPT 등장 3년 간의 변화다. 더 큰 모델에 대한 수요는 효율 중심으로 넘어간 지 오래고, 범용 모델의 확산으로 산업 현장의 시선도 그 너머를 바라보고 있다. 모델을 실제 서비스에 안정적으로 올리고 기업이 쓸 수 있는 형태로 운영할 수 있어야 한다는 지점이다.

정부가 '첨단 GPU 활용 지원 사업'을 통해 H200 2296장과 B200 2040장을 우선 공급하면서, 5만장 이상의 GPU를 확보해 민간에 보급하는 'AI 고속도로' 첫 단계로 설명한 것도 궤를 함께한다. GPU가 AI 기술 경쟁의 한 가지 수단에서 국가가 나서 배분하고 관리해야 하는 전략 자원이 된 셈이다.

업계 관계자는 "생성형 AI 경쟁의 무게중심이 모델 자체의 성능에서 이를 안정적으로 구동하고 확장할 수 있는 인프라로 빠르게 이동하고 있다"며 "서비스형 GPU(GPUaaS)를 통해 유연하게 연산 자원을 확보하거나 AI 데이터센터 기반의 대규모 처리 역량을 갖추는 일 등이 AI 운용을 위한 자산이 되고 있다"고 말했다.

'AI 활용 기반 잡아라'

국내 기업들도 AI 인프라 확보에 무게를 싣고 있다. 삼성SDS는 올해 주주총회 자리에서 AI 데이터센터와 데이터센터 설계·구축·운영(DBO), GPUaaS 서비스 등을 성장 동력으로 제시했다. NHN은 GPU 클러스터와 AI 데이터센터 중심의 연산 자원 상용화에 주력 중이고, KT는 액체 냉각 기반 고밀도 인프라로 AI 데이터센터 경쟁력을 강화하고 있다.

삼성SDS 컨소시엄은 지난해 국가AI컴퓨팅센터 구축사업에 단독 입찰해 우선협상대상자로 선정된 바 있다. 사진은 국가 AI컴퓨팅센터 조감도 예시. /사진=삼성SDS 제공

AI 데이터센터 경쟁력 기준도 구체화하고 있다. 네이버클라우드 관계자는 "AI 학습·추론·배포 전 과정을 유기적으로 연결하는 통합 컴퓨팅 인프라를 기반으로 AI 데이터센터 경쟁력을 차별화하고 있다"며 "하이퍼스케일 규모와 고성능 전력 설계, 초고속·대용량 네트워크 인프라를 통해 대규모 AI 연산을 안정적으로 지원하고 있다"고 말했다. 자체 개발한 친환경 기술 '나무(NAMU)'를 고도화해 에너지 절감 효율도 높이는 중이다.

인프라 투자는 실제 업무 성과로도 나타나고 있다. LG CNS는 에이전틱 AI를 기반으로 제품 품질평가 자동화 시스템을 구축한 종근당 사례를 통해 보고서 작성 시간을 12시간에서 20분으로 줄인 성과를 공개했다. AI 인프라 경쟁이 현장 업무 효율성 증대로 이어지는 사례는 앞으로 더욱 늘어날 전망이다.

시설 넘어 전력·망·규제까지

인프라를 둘러싼 현장의 셈법 이면에는 또 다른 문제가 자리한다. AI 데이터센터는 일반적인 데이터센터보다 훨씬 높은 전력 밀도와 냉각 효율을 요구한다. 그렇기 때문에 전력 조달과 이를 위한 망 설치가 필수적이다.

더불어민주당 AI강국위원회 2기 위원장을 맡은 정청래 민주당 당대표가 지난달 10일 오전 서울 여의도 국회에서 열린 AI강국위원회 2기 발대식에 참석해 개회사를 하고 있다. AI강국위는 AI 인프라 관련 입법과 현안 논의를 위한 간담회 개최 활동 등을 이어갈 예정이다. /사진=임경호 기자

정치권에서도 AI 데이터센터 특별법 논의를 통해 이런 병목 해소에 집중하고 있다. 지난달 국회 과학기술정보방송통신위원회 법안심사소위를 통과한 대안 법안에는 비수도권 AI 데이터센터에 한해 전력계통영향평가 면제하고 발전사업자와의 직접 전력구매계약(PPA)을 허용하는 특례 조항을 담았다.

더불어민주당 당대표를 위원장으로 하는 민주당 AI강국위원회도 최근 2기를 출범하며 인프라 관련 후속 입법과 과제별 태스크포스(TF) 추진을 예고했다. AI 인프라 경쟁이 물리적 자원 확보와 함께 제도 설계까지 포함한 종합전으로 번지는 양상이다.

인프라 전쟁, 글로벌 의제로

해외에선 AI 인프라가 이미 독립된 전략 자산으로 거래되고 있다. 메타는 최근 네비우스의 AI 데이터센터를 5년간 사용하는 대가로 약 270억달러(약 41조원)를 지급하는 계약을 맺은 바 있다. 엔비디아도 네비우스에 20억달러(약 3조원)를 투자했다.

AI 팩토리 목록 ./사진=유럽연합 집행위원회(European Commission) 홈페이지

이런 흐름 속에 네비우스는 미국 미주리주에 1.2기가와트(GW) 규모의 데이터센터를 건립하는 계획을 최근 승인받기도 했다. 메타가 AI 데이터센터의 방대한 전력 수요를 뒷받침하기 위해 미국 내 원전 전력 확보에 나섰다는 외신 보도도 잇따른다.

국가 차원의 움직임도 관측된다. 유럽연합(EU)이 AI 팩토리 정책을 통해 AI 인프라를 공공 차원의 전략 과제로 끌어올린 것이 대표적이다. AI 활용에 요구되는 각종 자원으로 각축전을 벌이는 파편화된 경쟁에서 벗어나 모든 요소를 아우르는 경쟁 구도가 세계적인 흐름으로 자리 잡는 모습이다.

임경호 기자 lim@techm.kr