SCP, 엔비디아 최신 B300 GPU 기반 GPUaaS 국내 최초 출시
기존 H100 대비 메모리 용량 3배 이상, LLM 추론 병목 현상 개선
삼성SDS는 국내 최초로 자사 클라우드 ‘SCP(삼성 클라우드 플랫폼)’을 통해 엔비디아의 최신 GPU인 ‘B300(Blackwell Ultra)’ 기반 GPUaaS(GPU 구독형 서비스)를 출시했다. <출처=삼성SDS>
삼성SDS는 국내 최초로 자사 클라우드 ‘SCP(삼성 클라우드 플랫폼)’을 통해 엔비디아의 최신 GPU인 ‘B300(Blackwell Ultra)’ 기반 GPUaaS(GPU 구독형 서비스)를 출시했다고 23일 밝혔다.
이번 ‘SCP B300 GPUaaS’ 출시는 최근 기업들이 AI(인공지능) 모델 개발을 넘어 실제 서비스에 적용하는 ‘AI 추론’ 단계로 진입함에 따라 급증하는 고성능 컴퓨팅 수요에 대응하기 위한 전략이다.
B300 GPU는 12단 HBM3E(고대역폭메모리)를 탑재해 GPU당 288GB의 메모리 용량과 초당 8TB의 대역폭을 제공함으로써 복잡한 연산이 필요한 AI 추론 영역에서 H100 대비 용량은 3.6배, 대역폭은 2.4배로 메모리 성능이 향상됐다.
이에 따라 대규모 언어 모델(LLM) 실행 시 GPU의 빠른 연산 처리 속도 대비 느린 메모리의 데이터 전송 속도로 인해 전반적인 성능이 저하되는 데이터 병목 현상이 획기적으로 개선됐다.
삼성SDS는 2021년 A100, 2023년 H100 기반 GPUaaS를 선제적으로 제공하며 클라우드 기반의 인프라 구축, 운영, 고객 서비스 등에 GPU가 AI 전용 인프라로 활용될 수 있도록 GPUaaS 생태계 구성을 이끌어 오고 있다.
‘SCP B300 GPUaaS’를 도입하는 고객은 고용량 메모리를 통해 거대 AI 모델을 효율적으로 처리할 수 있어 AI 에이전트, 이미지·영상·코드 생성 및 분석 등 고성능이 필요한 AI 서비스의 지연 시간을 최소화할 수 있다.
또한 필요한 만큼 쓰고 지불하는 구독형 모델을 이용하면 초기 투자 리스크를 낮추고 비용을 효율화할 수 있다. GPU 수급이 어려운 상황에서도 SCP를 통해 엔비디아의 최신 아키텍처를 즉시 업무에 도입할 수 있으며, 삼성SDS의 보안 역량이 결합된 안전한 클라우드 환경에서 민감한 기업 데이터를 처리할 수 있다.
삼성SDS는 AI 모델을 적용할 때 별도의 인프라 사용료 없이 사용한 토큰양 만큼만 비용을 지불하는 ‘서버리스(Serverless) 추론 서비스’와 개발자가 코드와 데이터를 입력하면 자동으로 즉시 AI를 분산학습시키는 ‘AI 학습 서비스’ 등을 올 3분기에 출시할 계획이다.
이호준 삼성SDS 클라우드서비스사업부장(부사장)은 “SCP가 보유한 자원 최적화·에너지 절감 등 GPU 효율화 역량을 바탕으로 대기업, 중견·중소, 공공 등 AI를 업무에 적용하려는 고객에게 국내 최초 B300 GPU 서비스를 제공해 AX 전환을 적극 지원하겠다”고 말했다.
[CEO스코어데일리 / 진채연 기자 / cyeon1019@ceoscore.co.kr]
심층분석
100대 기업, 사외이사 안건 반대율 0.5%에 그쳐…유한양행·고려아연·네이버 순 높아
100대 기업 사외이사 평균급여 9천만원 돌파…삼성 낮추고 현대차 높였다
한국 진출 외국계 기업 매출의 1% 법인세 납부…“‘배민’만 5% 넘어, 세금 기여 ‘최고’”
FOCUS
재직자가 평가한 ‘꿈의 직장’ 어디?…보험사 중 코리안리·농협손보·농협생명 ‘톱 3’
재보험사인 코리안리를 비롯한 NH농협손해보험과 농협생명이 국내 보험사 중 기업 평판 온라인 플랫폼에서 가장 높은 점수를 받은 ‘톱 3’ 기업으로 조사됐다. 쉽게 말해 현직자들이 꼽은 ‘가장 일하기 좋은 보험...
카뱅·토뱅, 재직자가 뽑은 기업 평판 1·2위…인뱅 ‘조직 유연성’ 부각
카카오뱅크가 국내 은행권 가운데 조직문화 평점 1위를 기록하며 ‘일하기 좋은 은행’으로 자리매김했다. 실제 재직자 후기를 기반으로 한 기업 평판 분석에서 워라밸과 사내문화 부문에서 높은 점수를 받으며 정...
국민연금 보유 CJ제일제당 주식가치 1년새 2340억 증발…투자 기업 중 최대 감소
국민연금이 투자한 국내 상장사 272곳 중 CJ제일제당의 주식 가치 감소 폭이 가장 컸던 것으로 나타났다. 실적 둔화에 따른 주가 하락이 이어지면서 국민연금도 지분을 줄이는 모습이다.
16일 CEO스코어데일리와...
댓글
0