[디지털투데이 황치규 기자]AI 추론 병목 문제 해결을 주특기로 내건 스타트업 짐렛랩스(Gimlet Labs는 ) 8000만달러 규모 시리즈 A 투자를 유치했다고 테크크런치가 23일(현지시간) 보도했다.
짐렛랩스는 AI 워크로드를 다양한 하드웨어에서 동시에 실행할 수 있는 '멀티실리콘 추론 클라우드'를 개발했다.
멀티실리콘 추론 클라우드는 전통적인 CPU와 AI 특화 GPU, 고용량 메모리 시스템을 조합해 AI 성능을 극대화할 수 있도록 지원한다.
멘로벤처스의 팀 툴리 수석 투자자는 "단일 칩으로는 AI 작업을 모두 처리할 수 없지만 짐렛랩스 소프트웨어는 다양한 하드웨어를 연결해 성능을 최적화한다"고 평가했다.
맥킨지에 따르면 현재 데이터센터 하드웨어 활용도는 15%에서 30% 수준에 불과하며, 이를 개선하면 수천억달러 규모 비용 절감 효과가 기대된다. 짐렛랩스는 AI 추론 속도를 3배에서 10배까지 높이면서도 비용과 전력 소모는 그대로 유지하는 솔루션을 제공한다고 강조했다.
짐렛랩스는 소프트웨어 또는 자체 클라우드 API 형태로 제품을 제공하고 있다. 엔비디아, AMD, 인텔, ARM 등 주요 칩 제조사들과도 협력하고 있다.
댓글
0