샤오미 [사진: 셔터스톡]
[디지털투데이 황치규 기자]샤오미가 1조 파라미터 규모 AI 기반 모델 미모-V2-프로를 공개했다.
벤처비트에 따르면 미모-V2-프로(MiMo-V2-Pro)는 25만6000 토큰 이하 사용 시 오픈AI, 앤트로픽 등 미국 AI 기업 모델에 근접한 성능을 6~7분의 1 수준 비용으로 제공해 눈길을 끈다.
미모-V2-프로는 전체 파라미터 1조개 중 단일 추론 시 420억개만 활성화하는 스파스 아키텍처(sparse architecture)에 기반한다. 전작 미모-V2-플래시보다 약 3배 큰 규모로 100만 토큰 컨텍스트 윈도를 지원한다. 7대 1 하이브리드 어텐션 비율로 대규모 데이터를 처리한다. 데이터 85%는 빠르게 훑고 나머지 15%에 집중 연산을 적용한다는 얘기다.
벤치마크 업체 아티피셜 어낼리시스에 따르면 미모-V2-프로는 글로벌 인텔리전스 인덱스 10위에 랭크됐다. 중국산 모델 중 가장 높은 순위다. 에이전틱 실무 과제를 측정하는 GDPval-AA에서는 엘로 1426점으로 GLM-5(1406점), 키미 K2.5(1283점)를 앞섰다. 클로드 소넷 4.6(1633점)에는 미치지 못했다.
댓글
0