구글이 고급 추론과 에이전트 기반 워크플로우를 위해 특수 설계된 젬마 4는 아파치 2.0 라이선스로 제공돼 누구나 활용할 수 있는 오픈 모델 ‘젬마 4’를 정식 공개했다.
젬마 4는 ▲이펙티브 2B(E2B) ▲이펙티브 4B(E4B) ▲26B MoE(Mixture of Experts) ▲31B 덴스 등 4종 모델로 공개됐으며, 단순한 채팅을 넘어 복잡한 논리 처리와 에이전트 기반 워크플로우까지 지원 가능하다.
아레나 AI 텍스트 리더보드 기준으로 31B 모델은 오픈 모델 기준 3위, 26B 모델은 6위를 기록하는 향상된 파라미터당 성능을 지녀 상대적으로 적은 하드웨어 자원으로도 높은 수준의 AI 기능을 구현할 수 있다는 게 구글의 설명이다.
구글에 따르면, 파라미터 수보다 멀티모달 기능, 낮은 레이턴시, 생태계와의 원활한 연동을 우선적으로 고려한 E2B와 E4B 모델은 엣지컴퓨팅 환경에서 온디바이스 활용성을 한층 확장하며, 특정 작업에서 최첨단 성능을 달성하도록 미세 조정해 다양한 하드웨어에서 효율적인 실행을 지원한다.
레이턴시에 초점을 맞춘 26B MoE 모델은 전체 파라미터 중 약 38억개만을 활성화해 보다 빠른 속도를 지원하며 출력 품질을 중심으로 설계된 31B 덴스 모델은 미세 조정을 위한 기반 모델로 활용 가능하다.
젬마 4는 140개 이상의 언어로 기본 학습됐으며 퀄컴, 미디어텍 등 주요 하드웨어과의 협력을 통해 스마트폰, 라즈베리 파이 등 엣지 기기에서 제로에 가까운 레이턴시로 오프라인에서 실행할 수 있다.
엔비디아 AI인프라는 물론 오픈소스 ROCm 스택을 통해 AMD GPU와도 연동되며, 구글클라우드 TPU를 활용한 대규모 확장도 가능하다.
젬마 4의 아파치 2.0 라이선스는 상업적으로 활용 가능한 라이선스로, 개발자에게 높은 수준의 유연성과 디지털 주권을 보장하고, 데이터와 모델에 대한 제어권을 부여한다.
한편, 구글은 젬마 모델 누적 다운로드 수 4억회를 돌파했고 10만개 이상의 변형 모델로 구성된 젬마버스 생태계가 구축되고 있다고 전했다.
댓글
0