[최태원의 AI 국회강연④] 세번째 AI 보틀넥...GPU

최태원 SK그룹 회장이 28일 국회에서 AI 특강을 했는데요. 김태년 의원실 주최 '미·중 AI기술 패권 경쟁 속 대한민국 성장전략' 초청 강연입니다. 1시간이 넘게 이어진 열정적인 강의였는데요. 최태원 회장은 강연을 마치고 방청석에 있던 국회의원들로부터 질문을 받고 즉답을 하기도 했습니다. 참석한 의원들은 "유익했다"며 좋은 반응을 보였는데요. 데일리브리프가 강연과 Q&A를 글로 풀어 전합니다.[편집자]

최태원 회장이 28일 국회의원회관에서 열린 '미·중 AI기술 패권 경쟁 속 대한민국 성장전략' 세미나에 참석해 특별강연을 하고 있다./사진=김태년TV

최태원 회장이 말하는 AI 발전의 세번째 병목(보틀넥)은 GPU입니다. 첫번째 병목이 돈, 그리고 두번째가 에너지(전기)라면 이제 세번째는 기술이 병목이라는 것인데요.

엔비디아가 독점하고 있는 GPU가 그동안 확실한 기술적 우위를 확보하고 있었고, 지금도 여전히 그 지위를 유지하고 있다는 그런 의미에서 "GPU는 병목"이라고 할 수 있다고는 건데요.

다만 최근 다양한 빅테크의 도전으로 그 독점이 서서히 희석되고 있다고 진단합니다.  예를 들면 구글의 TPU가 있고요, 또 XPU라고 불리는 다양한 PU가 계속 세상에 나오고 있다고 했습니다.

최태원 회장은 그런 점에서 이제는 GPU가 아니라 새로운 종류의 PU를 보틀넥으로 봐야 한다고 했는데요. 같은 맥락에서 "GPU의 보틀넥이 지금 분명히 존재하지만 계속되지는 않을 것이다"라는 전망했는데 탁견으로 보입니다.

그 GPU로 막대한 돈을 벌고 있는 입장에서 그 시장이 이제 서서히 한계에 도달하고 있다고 선선히 말하는 건 어쩌면 그 다음에 대한 확실한 자신감으로도 읽혔는데요.

다음은 최태원 회장이 말하는 AI 세번째 보틀넥, GPU에 대한 설명입니다.

세 번째 보틀넥은 GPU(Graphics Processing Unit)입니다.

근데 GPU는 아시다시피 이제 엔비디아가 상당히 많이 독점 형태가 돼 있기는 하지만 (도전을 많이 받아서) 챌린지가 많이 돼서 구글의 TPU(Tensor Processing Unit)처럼 이제는 새로운 종류의 PU(Processing Unit)가 보틀넥이라고 봐야겠죠.

XPU(eXtreme Processing Unit)라고 불리는 어떤 종류의 PU, 즉 프로세싱 유닛을 계속 만들어서 시장에 내놓고 있습니다.

(용어설명)XPU =

eXtreme Processing Unit의 약자. 여기서 X는 '뭐든지'라는 의미이며 다양한 종류의 PU, 프로세싱 유닛을 통칭하는 말로 쓰인다.

물론 현재까지로 보면 아직도 저희가 (이런저런 XPU를) 비교해 보면 엔비디아만큼 성능은 안 나옵니다.

하지만 값이 좀 싼 게 있고, 현재 AI시장이 여태까지는 주로 트레이닝 훈련 시장이었는데, 이제는 인플런싱(추론) 시장으로 바꾸고 있는 상황이 되다 보니 추론해서 쓸 수 있다라고 생각하는 건 어떤 추론을 하느냐가 중요해졌고 그래서 어느 한 시스템, 즉 엔비디아가 만든 한 시스템으로 모든 것을 다 쓸 수 있다, 하는 상황, 그  시대가 지나가기 시작합니다.

이제 막 세그멘테이션(segmentation, 분할)이 계속 오기 시작하는 거니까 그 세그멘트(segment, 부분)마다 이제 다른 종류의 이제 물리적인 하드웨어 시스템이나 소프트웨어가 달라져야 되는 문제가 있고, 그러려고 하다 보면 이제 이런 인플런싱(추론) 시장의 형태에서는 "내 시스템과 내 하드웨어가 더 우수해" 이렇게 될 수 있는 상황이 지금 오고 있습니다.

그래서 내년 아니면 이 시장이 훨씬 더 분화가 될 것이다, 그래서 GPU의 보틀넥이 분명히 존재 하지만 그 보틀넥이 계속되지는 않을 것이다, 라는 생각을 할 수 있습니다.

(다음 편으로 이어집니다)