본문 바로가기
사회

“새 GPU 안 사도 된다”…노타, 초거대 AI 경량화

노타가 초거대 인공지능(AI) 모델을 경량화해 상대적으로 저렴한 GPU에서도 실행할 수 있도록 했다. 최신 GPU를 새로 확보해야 하는 부담을 줄이고 기존 인프라의 활용도를 높인다는 취지다.

“새 GPU 안 사도 된다”…노타, 초거대 AI 경량화

[이데일리 신영빈 기자] 노타가 초거대 인공지능(AI) 모델을 경량화해 상대적으로 저렴한 GPU에서도 실행할 수 있도록 했다. 최신 GPU를 새로 확보해야 하는 부담을 줄이고 기존 인프라의 활용도를 높인다는 취지다.

노타는 문샷AI의 ‘키미 K3.1 프로’를 최적화해 엔비디아 B300 GPU 8장이 필요했던 모델을 B200 GPU 8장에서도 실행할 수 있

이 기사 공유하기
페이스북X

이 기사를 추천합니다

i

댓글

0

후 댓글을 작성할 수 있습니다.

아직 댓글이 없습니다 이 기사에 첫 의견을 남겨보세요.

댓글 수정