[AI 경쟁 새 기준①]'와트당 연산효율'이 AI 패권 가른다

전기 먹는 AI에서 전기 덜 먹는 AI로

AI, 이제는 효율로 승부···경쟁 방식 전환

같은 전기, 더 많은 계산···AI의 새 공식

생성형 인공지능(AI) 확산 이후 AI 산업 경쟁 방식이 빠르게 바뀌고 있다. 초기에는 더 큰 모델을 만들기 위한 연산 경쟁이 중심이었다면 지금은 같은 전력으로 얼마나 더 많은 연산을 처리할 수 있는지가 AI 인프라 경쟁력을 가르는 기준으로 떠오르고 있다. AI 시대 새로운 경쟁력으로 떠오른 '전력 대비 연산 효율'을 중심으로 AI 반도체와 데이터센터 인프라, 냉각 기술, 전력 인프라까지 AI 산업 경쟁 흐름을 살펴본다. [편집자]

네이버 데이터센터 '각 춘천'의 남관 서버실. 사진=네이버클라우드

[포인트데일리 윤은식 기자] 2022년 말 오픈AI가 챗GPT를 공개하면서 인공지능(AI) 산업 경쟁 구도가 빠르게 바뀌기 시작했다. 자연어로 질문을 하면 문장을 작성하고 코드를 만들어 이미지를 생성하는 AI 서비스가 등장하자 글로벌 빅테크 기업들도 앞다퉈 생성형 AI 개발에 뛰어들었다.

구글은 대형 언어모델 '제미나이'를 앞세워 AI 서비스를 확대했고, 마이크로소프트는 오픈AI와 협력해 챗GPT를 검색과 클라우드 서비스에 접목하기 시작했다. 메타(옛 )도 자체 대형 모델 '라마(Llama)' 시리즈를 공개하며 AI 경쟁에 본격적으로 가세했다.

AI 경쟁 핵심은 더 많은 데이터를 학습시키고 더 큰 모델을 만드는 것이었다. 대형 언어모델은 수십억에서 수천억개 매개변수를 갖고 있어 학습 과정에서 막대한 연산 자원이 필요하다. 기업들은 모델 성능을 높이기 위해 그래픽저장장치(GPU) 수를 늘리고 데이터센터 규모를 확대하는 방식으로 경쟁했다.

마이크로소프트와 구글, 메타 등 빅테크 기업은 GPU 수만개를 동시에 운영할 수 있는 초대형 데이터센터를 구축하기 시작했다. AI 데이터센터 구축 경쟁이 본격한 것이다. AI 모델 학습에는 수천 개에서 많게는 수만 개 GPU가 동시에 작동해야 하기 때문이다.

AI 산업 경쟁은 자연스럽게 연산 자원 확보 경쟁으로 이어졌다. 엔비디아 GPU가 AI 연산 시장을 사실상 장악하면서 글로벌 기업들은 GPU 확보에 막대한 비용을 투입했다. 실제로 엔비디아 AI용 GPU는 공급 부족 현상이 나타날 정도로 수요가 급증했다.

하지만 AI 인프라가 빠르게 확대되면서 전력과 인프라 비용 등 문제가 나타나기 시작했다.

일반 데이터센터에서 서버 한 줄(렉)이 사용하는 전력은 약 5~10킬로와트(kW)수준으로 알려진다. 이는 소형 아파트 여러 가구가 동시에 사용하는 전력과 비슷한 수준이다. 여기서 AI 서버가 들어가면 이야기가 달라진다. GPU 여러개가 동시에 작동하면서 같은 공간에서 사용하는 전력이 40킬로와트 이상으로 높아진다. 일반 아파트 10~13가구가 동시에 전기를 최대로 쓰는 것과 맞먹는 양이다.

전력 사용량이 늘면서 해결해야 할 문제도 함께 많아졌다. 서버에서 발생하는 열이 많아지기 때문에 냉각 설비를 더 갖춰야 하고 전력 공급 설비도 확대해야 한다. 데이터센터 운영 비용도 자연스럽게 증가한다. 실제로 AI확산 후 데이터센터 전력 소비는 빠르게 느는 추세다. 국제에너지기구(IAEA)는 2022년 약 460TWh 수준이었던 글로벌 데이터센터 전력 사용량은 2030년 1000TWh 수준까지 증가할 것으로 전망했다. 이는 러시아의 2022년 한해 전체 전력량과 같은 수준이다.

전력 부담이 커지면서 AI산업 경쟁 방식도 달라지고 있다. 초기 AI 경쟁은 더 큰 모델을 만드는 데 집중했다면 GPU 확보 경쟁을 넘어 최근에는 같은 전력으로 얼마나 많은 연산을 처리할 수 있는지가 새로운 경쟁 기준으로 떠오르고 있다. AI 인프라 운영 비용에서 전력이 차지하는 비중도 빠르게 커지고 있다. 전력 사용량이 늘어나면 서버를 식히기 위한 냉각 설비와 전력 공급 설비를 더 크게 갖춰야 하기 때문이다. 그만큼 데이터센터 운영 비용도 함께 늘어난다.

GTC 2026 현장에서 삼성전자 부스에서 선보인 HBM4. 사진=삼성전자

반도체에서 먼저 변화가 일고 있다. AI 서비스 성능을 끌어올리려면 우선 연산을 맡는 칩이 좋아져야 해서다. 예전에는 칩 성능을 볼 때 단순히 얼마나 빠르게 계산하느냐를 주로 따졌다. 지금은 기준이 조금 달라졌다. 같은 전력을 쓰고도 얼마나 더 많은 연산을 처리할 수 있는지가 중요해졌다. 전기를 많이 먹는 칩보다, 같은 전기로 더 많은 일을 하는 칩이 유리해진 셈이다.

엔비디아와 AMD, 인텔이 AI 칩 경쟁에서 효율을 강조하는 이유도 여기에 있다. 구글과 아마존이 자체 AI 칩 개발에 나선 것도 마찬가지다. AI 서비스를 오래, 많이 돌리려면 칩 성능만으로는 부족하다. 전력 부담을 낮추면서 연산량을 늘려야 하기 때문이다.

생성형 AI 제미나이가 제작한 이미지.

문제는 칩만 좋아진다고 끝나지 않는다는 점이다. AI 서버가 늘어나면 그 칩이 모여 있는 데이터센터도 함께 바뀌어야 한다. AI 서버는 일반 서버보다 전기를 더 많이 쓰고, 그만큼 열도 많이 낸다. 전기를 많이 쓰는 만큼 식히는 일도 더 중요해진다.

때문에 데이터센터 냉각 방식도 달라지고 있다. 예전에는 차가운 공기를 넣어 서버를 식히는 공랭 방식이 일반적이었다. 하지만 AI 서버가 늘어나면서 공기만으로는 열을 감당하기 어려운 경우가 많아졌다. 그래서 물을 이용해 열을 식히는 수냉 방식이 빠르게 확산하고 있다. 서버를 액체에 담가 열을 식히는 액침 냉각도 차세대 대안이다. 결국 같은 전력으로 더 많은 연산을 하려면 칩뿐 아니라 그 칩이 돌아가는 공간도 함께 바뀌어야 하는 것이다.

여기서 끝이 아니다. 아무리 칩과 데이터센터를 효율적으로 바꿔도, AI 모델 자체가 무겁고 복잡하면 전력 부담은 다시 커질 수밖에 없다. 그래서 최근에는 모델 설계 단계에서도 효율을 높이려는 시도가 늘고 있다.

대표적인 방법이 모델 경량화와 양자화다. 쉽게 말해 모델 크기를 줄이거나, 계산 방식을 더 단순하게 바꿔 적은 자원으로도 비슷한 성능을 내도록 만드는 기술이다. 같은 질문을 처리하더라도 연산 횟수를 줄일 수 있다면 전력도 덜 들고, 서비스 속도도 높일 수 있다. 기업들이 모델 구조 최적화에 공을 들이는 이유다.

AI 경쟁은 결국 "얼마나 큰 모델을 만드느냐"보다 "같은 전력으로 얼마나 많은 연산을 해내느냐"로 옮겨가고 있다. 칩을 바꾸고, 데이터센터를 바꾸고, 모델까지 가볍게 만드는 흐름도 모두 이 방향으로 가고 있다. AI 반도체, 냉각 기술, 모델 설계가 따로 움직이는 것처럼 보여도 실제로는 같은 목표를 향하고 있는 셈이다.

윤은식 기자

다른기사 보기

저작권자 © 포인트데일리