추천! 더중플 - ‘K-엔비디아’ 노리는 AI 반도체 승부사들
“인공지능(AI) 에이전트가 등장하면서 필요하게 된 추론의 양이 챗GPT가 처음 등장했을 때의 1만배로 증가했다.”
젠슨 황 엔비디아 최고경영자(CEO)가 엔비디아 연례 개발자 회의인 ‘GTC 2026’에서 강조한 말입니다. 추론은 AI가 결과를 도출하는 과정입니다. 챗GPT에 질문하면 챗GPT가 복잡한 연산을 거쳐 최적의 답을 내는 그 과정이죠. 본격적인 추론의 시대가 열리면서 AI 반도체 시장의 절대 강자 엔비디아는 물론 AI 반도체 스타트업들의 진검승부가 시작됐습니다.
오늘의 추천! 더중플은 폭발적으로 성장할 추론 시장을 두고 쟁탈전을 벌이는 AI 반도체 생태계 이야기입니다. AI모델과 AI 반도체가 어떻게 연결되는지, AI 반도체는 어떤 과정을 거쳐 양산되는지와 같은 문과도 이해할 수 있는 기초 강의부터, 지금 이 시점 글로벌 추론 시장을 둘러싼 AI 반도체 생태계의 통찰력 있는 분석까지 팩플이 꾹 눌러 담았습니다. 더 자세한 내용은 더중앙플러스(The Joongang Plus) 구독 후 보실 수 있습니다.
김혜미 디자이너
인공지능(AI) 모델이 정신이라면, AI 반도체는 물리적 뇌다. AI 반도체가 수조 번의 수학 계산을 하지 않으면 아무리 뛰어난 AI 모델도 무용지물이고, 똑똑한 AI 모델이 없으면 AI 반도체는 쓸모없는 벽돌에 불과하다. 떼려야 뗄 수 없는 이 둘은 어떻게 연결되어 있을까.
오픈AI와 같은 개발사가 AI 모델을 만드는 ‘학습’ 과정에서 컴퓨터는 수천만, 수조 개가 넘는 복잡한 행렬 곱셈을 빠른 속도로 풀어야 한다. 이때 병렬 처리가 가능한, 즉 풀어야 할 수학 문제가 아무리 많아도 동시에 계산할 수 있는 AI 반도체 그래픽처리장치(GPU)가 필요하다. 계산 하나를 마치고 다음 계산을 하는 중앙처리장치(CPU)는 이런 AI 연산에 비효율적이다.
학습이 완료된 AI 모델을 이용자들이 이용하는 과정을 ‘추론’이라고 한다. 챗GPT에 질문을 하고 답변을 받는 그 과정이다. 팔방미인 GPU는 AI 모델의 학습과 추론을 모두 지원하지만, 그 구조상 학습에 최적화돼 있다. 이는 학습에선 GPU를 상대할 적수가 없지만, 추론에선 약점이 있다는 의미다. 추론할 때는 학습할 때만큼 엄청난 연산량이 필요하지 않은데, 고스펙의 GPU는 가격이 비싸고, 전력 소모량이 많다.
퓨리오사AI가 파운드리(위탁 생산)사인 TSMC로부터 인도 받은 2세대 칩인 레니게이드(RNGD)를 기반으로 AI 가속기(카드) 출하 작업을 하고 있다. 사진 퓨리오사AI
이런 틈을 비집고 ‘가성비’(가격 대비 성능) ‘전성비’(전력 사용량 대비 성능)를 내세운 게 신경망처리장치(NPU)다. 리벨리온, 퓨리오사AI 등 국내 AI 반도체 스타트업들도 개발에 뛰어든 NPU는 학습을 과감하게 포기하고 추론에 특화해 저비용·저전력이면서 고성능을 구현하는 칩이다. 업계 한 관계자는 “비싸도 성능이 뛰어난 포르쉐를 타고 싶은 사람이 있지만, 합리적인 가격대로 적당한 성능의 차를 원하는 사람도 있는 것처럼 AI 반도체도 다양한 수요가 있다”고 설명했다.
댓글
0