질문 분석은 '트레이니엄', 답변 생성은 '세레브라스엔비디아 '그록' 전략과 유사…AI 추론 중심 산업 전환◆…아마존 로고. 사진=로이터통신클라우드 기업 아마존이 자사 데이터센터에 인공지능(AI) 칩 스타트업 세레브라스의 반도체를 도입하고 AI 추론 서비스 효율 극대화에 나선다.13일(현지시간) 로이터통신에 따르면 아마존웹서비스(AWS)는 이날 세레브라스의 '웨이퍼 스케일 엔진(WSE)' 칩을 자사 맞춤형 AI 칩 '트레이니엄'과 결합해 추론 서비스를 제공할 계획이라고 밝혔다.추론 서비스는 AI 모델이 사용자 요청에 따라 답변을 생성하는 기능으로, 이번 파트너십은 다년간 진행될 예정이다.이번 핵심 전략은 AI 연산 과정을 분리해 처리하는 '추론 분리' 방식이다.AI가 사용자 질문에 답변을 내놓는 과정을 프리필(prefill)과 디코드(decode) 단계로 나누고, 각 단계에 최적화된 칩을 배치한다. 프리필 단계에서는 사용자의 질문을 분석하고 토큰화하는 작업을 AWS 트레이니엄 칩이 전담하며, 디코드 단계에서는 실제 답변을 생성하는 작업을 세레브라스 칩이 담당한다.양사는 이를 통해 동일한 하드웨어를 사용하면서도 처리 속도를 최대 5배까지 향상시킬 수 있다고 설명했다.이번 계약으로 아마존은 하이퍼스케일러(초대형 데이터센터 운영사) 중 처음으로 세레브라스의 칩을 도입한 기업이 되었다. AI 산업의 중심이 모델 '학습(training)'에서 실제 서비스 구현인 '추론'으로 이동함에 따라, 기업들이 공급망 다변화와 효율성 극대화를 서두르고 있음을 보여준다.업계에서는 이를 두고 엔비디아의 행보와 유사한 전략으로 평가하고 있다. 앞서 엔비디아도 추론 특화 칩 기업인 그록과 자사 GPU를 결합하는 전략을 추진 중이다.세레브라스는 웨이퍼 전체를 하나의 거대한 칩으로 제작하는 AI 칩 기업이다. 지난 1월에는 챗GPT 개발사 오픈AI와 100억 달러 규모의 공급 계약을 체결했으며 최근 10억 달러 규모의 투자를 유치해 기업가치 230억 달러를 인정받았다.이르면 다음 달을 목표로 기업공개(IPO) 재도전에 나설 전망이다.앤드루 펠드먼 세레브라스 최고경영자(CEO)는 "개인 개발자부터 대형 은행까지 누구나 클릭 한 번으로 세레브라스의 성능을 AWS에서 경험하게 될 것"이라며 "세계 최대 클라우드 환경에 세레브라스-트레이니엄 솔루션을 배치하게 돼 수많은 고객을 만날 기회가 생겼다"고 말했다.
댓글
0