본문 바로가기
사회

롯데이노베이트, 자체 AI 고도화... 동일 장비로 추론 속도 '3배'↑

국내 타사 시스템과의 비교를 위한 카카오(Kakao) 성능 평가에서도 경쟁 우위를 확고히 다졌다. 무엇보다 외부 응용프로그램 인터페이스(API) 연결 없이 기업 내부 서버에서 독자적으로 돌아가는 개방형 소스 기반...

롯데이노베이트, 자체 AI 고도화... 동일 장비로 추론 속도 '3배'↑

롯데이노베이트 AI 플랫폼 아이멤버. 사진 롯데이노베이트 [뉴스락]

[뉴스락] 롯데이노베이트가 자사의 인공지능 플랫폼 성능을 대폭 끌어올리며 기업용 생성형 시스템 시장 주도권 공략에 본격적인 시동을 건다.

롯데이노베이트가 인공지능(AI) 플랫폼 '아이멤버(Aimember)'의 두뇌 격인 언어 모델을 한 차원 높게 고도화했다고 26일 밝혔다.

이번 개편의 핵심은 데이터 처리 규모의 폭발적인 증가다. 매개변수(파라미터)를 기존 320억 개에서 1200억 개로 4배 가까이 확장했다. 이를 바탕으로 사용자가 던지는 복잡하고 난해한 질문의 숨은 맥락을 정확히 짚어내어 훨씬 논리적이고 상세한 결과물을 내놓을 수 있게 됐다.

실제 객관적인 성능 수치로도 그 우수성이 증명됐다.

수능 국어 영역을 본뜬 지표에서 78.31점을 얻은 것을 비롯해, 한국어 종합 능력과 수학 및 전문 지식 추론 등 4대 핵심 벤치마크 테스트에서 오픈소스 대비 두각을 나타냈다. 국내 타사 시스템과의 비교를 위한 카카오(Kakao) 성능 평가에서도 경쟁 우위를 확고히 다졌다.

무엇보다 외부 응용프로그램 인터페이스(API) 연결 없이 기업 내부 서버에서 독자적으로 돌아가는 개방형 소스 기반 구축형을 채택한 점이 눈에 띈다. 이 덕분에 민감한 내부 정보 유출을 원천 차단하는 보안성을 갖추고, 각 기업의 입맛에 맞게 시스템을 변형하는 유연성까지 완비했다.

운영 효율성 역시 비약적으로 발전했다. 데이터를 효율적으로 압축하는 양자화(Quantization) 기법으로 뼈대를 다듬어, 이전과 똑같은 그래픽처리장치(GPU) 자원만으로도 연산 속도를 약 3배 앞당겼다.

기존 인프라 환경에서 거대 모델을 안정적으로 소화하며 실무자들의 체감 대기 시간을 대폭 줄였다. 아울러 영어와 일본어를 시스템 조작 환경에 추가해 글로벌 지사에서도 언어 장벽 없이 손쉽게 플랫폼을 활용할 수 있도록 접근성을 높였다.

롯데이노베이트 관계자는 "앞으로도 아이멤버의 성능과 속도, 보안 수준을 지속적으로 업그레이드하는 한편, 산업 및 업무 특화 모델을 꾸준히 발전시켜 기업들의 AI 혁신을 이끌겠다"고 말했다.

이 기사 공유하기
페이스북X

이 기사를 추천합니다

i

댓글

0

후 댓글을 작성할 수 있습니다.

아직 댓글이 없습니다 이 기사에 첫 의견을 남겨보세요.

댓글 수정