본문 바로가기
사회

롯데이노베이트, 아이멤버 모델 120B로 업그레이드…"속도 3배↑ 비용 부...

카카오 벤치마크에서도 국내 타 모델을 상회했다고 덧붙였다. 이를 글로벌 상용 모델 급 한국어 처리 역량을 확보하게 됐다고 강조했다. 또 외부 API에 의존하지 않고 자체 인프라에서 운영 가능한 오픈소스 기반...

롯데이노베이트, 아이멤버 모델 120B로 업그레이드…"속도 3배↑ 비용 부...

롯데이노베이트는 AI 플랫폼 '아이멤버(Aimember)'의 언어 모델을 업그레이드, 엔터프라이즈 생성 AI 시장 공략을 본격화한다고 26일 밝혔다.

이번에 업그레이드된 언어 모델은 사용자 질문에 대해 더 깊이 있는 설명과 논리적 답변을 제공하는 방향으로 고도화됐다. 복잡한 질의에서도 맥락을 정리해 답변을 구성하는 데 강점을 보인다는 설명이다.

이는 모델의 매개변수를 기존 320억개(32B)에서 1200억개(120B)로 업그레이드한 결과라고 전했다.

벤치마크에서는 ‘수능국어QA(CSATQA)’에서 78.31점을 기록한 데 이어, 한국어 종합 능력 평가 ‘해례 벤치' 78.15점, ‘KMMLU-프로' 60.67점, ‘HRM8K-MMMLU' 92.98점 등 주요 지표에서 오픈소스 모델 대비 우수한 성능을 입증했다. 카카오 벤치마크에서도 국내 타 모델을 상회했다고 덧붙였다.

이를 글로벌 상용 모델 급 한국어 처리 역량을 확보하게 됐다고 강조했다. 또 외부 API에 의존하지 않고 자체 인프라에서 운영 가능한 오픈소스 기반 구축형 모델이기 때문에, 데이터 보안성과 컴플라이언스, 커스터마이징 유연성을 모두 충족할 수 있다고 덧붙였다.

속도와 효율성도 개선했다. 양자화 기술이 적용된 아키텍처를 활용해 시스템을 최적화, 동일한 GPU 자원 환경에서 추론 속도를 기존에 비해 약 3배 향상했다. 이를 통해 기존 32B 모델 운영 인프라만으로 120B급 대형 모델을 안정적으로 구동할 수 있게 됐으며, 사용자 체감 응답 속도도 빨라져 실시간 업무 활용도를 크게 높였다고 밝혔다.

글로벌 업무 환경을 고려한 다국어 지원도 강화됐다. 영어와 일본어를 추가, 플랫폼을 직접 조작하고 사용할 수 있도록 인터페이스(UI)와 사용자경험(UX)을 확장했다.

롯데이노베이트 관계자는 “앞으로도 아이멤버의 성능과 속도, 보안 수준을 지속적으로 업그레이드하는 한편, 산업 및 업무 특화 모델을 꾸준히 발전시켜 기업들의 AI 혁신을 이끌겠다”라고 말했다.

장세민 기자 semim99@aitimes.com

이 기사 공유하기
페이스북X

이 기사를 추천합니다

i

댓글

0

후 댓글을 작성할 수 있습니다.

아직 댓글이 없습니다 이 기사에 첫 의견을 남겨보세요.

댓글 수정