[이데일리 신영빈 기자] 노타가 초거대 인공지능(AI) 모델을 경량화해 상대적으로 저렴한 GPU에서도 실행할 수 있도록 했다. 최신 GPU를 새로 확보해야 하는 부담을 줄이고 기존 인프라의 활용도를 높인다는 취지다.
노타는 문샷AI의 ‘키미 K3.1 프로’를 최적화해 엔비디아 B300 GPU 8장이 필요했던 모델을 B200 GPU 8장에서도 실행할 수 있
노타가 초거대 인공지능(AI) 모델을 경량화해 상대적으로 저렴한 GPU에서도 실행할 수 있도록 했다. 최신 GPU를 새로 확보해야 하는 부담을 줄이고 기존 인프라의 활용도를 높인다는 취지다.
[이데일리 신영빈 기자] 노타가 초거대 인공지능(AI) 모델을 경량화해 상대적으로 저렴한 GPU에서도 실행할 수 있도록 했다. 최신 GPU를 새로 확보해야 하는 부담을 줄이고 기존 인프라의 활용도를 높인다는 취지다.
노타는 문샷AI의 ‘키미 K3.1 프로’를 최적화해 엔비디아 B300 GPU 8장이 필요했던 모델을 B200 GPU 8장에서도 실행할 수 있
댓글
0