테라텍·SK네트웍스서비스·인텔코리아와 협력, 사전 통합형 AI 플랫폼 제공
OPEA 기반 RAG 환경 구현 ··· 비용·복잡성 낮추고 로컬 AI 활용 확대
김기석 한국넷앱 상무
[데이터넷] 넷앱이 인텔 제온6 프로세서 기반 AI 추론 플랫폼 ‘넷앱 AI팟 미니 위드 인텔(NetApp AIPod Mini with Intel)’을 국내 시장에 출시하고, 기업의 AI 활용 지원에 본격 나선다.
넷앱은 기자간담회를 열고 테라텍, SK네트웍스서비스, 인텔코리아와 협력해 인텔 제온6 기반 ‘넷앱 AI팟 미니 위드 인텔’을 한국 시장에 공급한다고 29일 밝혔다.
이번 솔루션은 기업이 과도한 인프라 투자 없이 AI 추론 환경을 구축하고, RAG 및 LLM 기반 워크플로우를 운영할 수 있도록 지원한다.
넷앱은 AI 활용이 모델 학습 중심에서 추론과 실제 운영 단계로 이동하고 있다고 설명했다. 기존 AI 프로젝트는 데이터 수집, MLOps 구성, 하드웨어 구축, 모델 개발 등 복잡한 절차가 필요했지만, 넷앱 AI팟 미니 위드 인텔은 검증된 하드웨어와 소프트웨어 스택을 패키지 형태로 제공해 구축 부담을 낮춘다.
이날 발표에 나선 김기석 한국넷앱 상무는 “추론은 AI가 실질적인 가치를 창출하는 대표 영역이지만, 엔터프라이즈 시장에서는 충분한 지원을 받지 못해왔다”며 “AI팟 미니는 더 많은 고객이 AI를 직접 구축하기보다 구매해 활용할 수 있도록 하는 AI 민주화의 이정표가 될 것”이라고 말했다.
넷앱 AI팟 미니 위드 인텔은 인텔 제온6 프로세서와 넷앱 올플래시 스토리지, 데이터 관리 기술, 쿠버네티스 통합, 오픈소스 기반 엔터프라이즈 AI 프레임워크 OPEA(Open Platform for Enterprise AI)를 결합한 통합형 AI 추론 솔루션이다.
스토리지 운영체제(OS)는 넷앱 온탭을 기반으로 하며, 접근 제어, 버저닝, 추적성, 백업, 복제, 재해복구(DR) 등 엔터프라이즈 환경에 필요한 보안·거버넌스 기능을 제공한다.
OPEA는 LLM, 데이터 저장소, 검색, 임베딩, 리랭커, 프롬프트 템플릿 등 생성형 AI 시스템 구성 요소를 모듈형으로 제공하는 오픈 프레임워크다. 기업은 이를 기반으로 챗 Q&A, 문서 요약, 오디오 Q&A, 코드 생성 등 다양한 생성형 AI 기능을 업무 환경에 맞게 적용할 수 있다.
인텔은 CPU 기반 AI 추론 가능성을 강조했다. 조민성 인텔코리아 테크팀 총괄 상무는 “AI 워크로드라고 해서 반드시 GPU만 고집할 필요는 없다”며 “전통적인 머신러닝과 소형언어모델(SLM), 일부 LLM 기반 추론은 CPU만으로도 프로덕션 환경에서 충분히 수행할 수 있다”고 말했다.
넷앱 AI팟 미니 위드 인텔
인텔 제온6 프로세서는 코어별 AI 가속 기능을 제공하며, 인텔 AMX(Advanced Matrix Extensions)를 통해 행렬 연산 기반 AI 추론 성능을 높인다. AMX는 FP16, BF16, INT8 등 추론에 필요한 주요 데이터 타입을 지원한다. 인텔은 오픈비노(OpenVINO), 원API(OneAPI) 등 소프트웨어 스택과 결합해 CPU 기반 AI 추론 성능을 최적화한다는 방침이다.
이어진 발표에서 테라텍은 통합 아키텍처와 데모 환경을 소개했다. 강유진 테라텍 수석 엔지니어는 현장 시연에서 넷앱 스토리지, 네트워크 스위치, 관리 서버, 애플리케이션 서버로 구성된 AI팟 미니 구축 환경을 설명했다. 해당 환경은 쿠버네티스 기반 컨트롤 프레임워크 위에서 AI 서비스가 컨테이너 형태로 배포되는 구조다.
관리자는 대시보드에서 모델 서빙, 검색, 리랭커, 프롬프트 템플릿, LLM 입력 가드, LLM 등 컨트롤 플레인 구성 요소를 제어할 수 있다. 또한 파드 상태, 에러 로그, CPU·메모리 사용률, 지연시간 등을 모니터링할 수 있어 AI 전담 조직이 부족한 기업도 운영 부담을 낮출 수 있다.
데이터 인젝션 기능도 시연됐다. 사용자는 PDF, 엑셀, CSV, JSON 등 다양한 파일을 UI에서 업로드하고 넷앱 S3 버킷과 동기화할 수 있다. 업로드된 데이터는 추출과 임베딩 과정을 거쳐 벡터 데이터베이스에 저장되며, 이후 챗 Q&A에서 참조 데이터로 활용된다.
테라텍은 특허, 법률, 사내 매뉴얼 등 문서 기반 활용 사례도 제시했다. 사용자가 특정 기술이나 법률 문서에 대해 질문하면 AI팟 미니는 저장된 문서를 참조해 답변하고, 어떤 문서를 근거로 답변했는지도 함께 제시한다.
넷앱은 넷앱 AI팟 미니 위드 인텔이 법무팀의 문서 초안 및 연구 자동화, 리테일 분야의 개인화 쇼핑 경험과 동적 가격 책정, 제조업의 예측 유지보수 및 공급망 최적화 등 다양한 산업에 활용될 수 있다고 설명했다.
특히 온프레미스 환경에서 데이터를 처리할 수 있어 공공, 제조, 금융 등 보안과 규제 요구가 높은 산업에서 활용도가 높을 것으로 기대된다.
Tag
댓글
0