저비용·저전력으로 빠른 연산엔비디아가 인공지능(AI) 모델의 핵심 기능인 ‘추론’ 성능을 크게 높인 전용 칩을 공개해 주목된다.젠슨 황 엔비디아 CEO는 16일(현지시간) 미국 캘리포니아주 새너제이에서 열린 연례 개발자 행사 ‘GTC 2026’ 기조연설에서 “AI 에이전트(비서)의 등장으로 추론이 점점 더 중요해지고 있다”며 “추론의 변곡점이 도래했다”고 선언했다.생성형 AI 모델은 방대한 데이터를 학습하는 단계와, 이용자에게 답변을 제공하는 추론 단계로 나뉜다. 학습에는 대규모 컴퓨팅 파워와 많은 그래픽처리장치(GPU)가 필요하지만, 추론 단계에서는 효율이 중요해 저비용·저전력 칩의 필요성이 크다.황 CEO는 그록3 언어처리장치(LPU) 칩을 256개 묶은 ‘그록 LPX 랙’을 최신 베라 루빈 GPU 시스템과 함께 사용할 경우, 전력 효율이 최대 35배 향상될 수 있다고 설명했다. 황 CEO는 “내년까지 AI 칩 매출 기회가 최소 1조 달러(약 1500조 원)에 달할 것”이라고 말했다.
댓글
0