AI모델 아키텍처는 밀집모델에서 전문가 혼합 방식으로 진화
비용 효율성 제고 차원, 안정성 위해 밀집모델 고수하기도
효율화 전략 조합으로 진화 … 국내는 다양화·경량화 대응
모델 커져도 비용은 그대로 … AI 설계에 숨겨진 '압축의 묘수’ [김성현...
네이버와 KT가 대표적이며, SK텔레콤은 MoE 대신 요청별 최적 모델을 선택하는 모델 라우팅 방식으로 실용 노선을 구사하고 있다. MoE는 대규모 파라미터와 데이터를 전제로 하기 때문에 빅테크 대비 불리할뿐더러, 분산...
댓글
0