3B만 깨워도 35B처럼 생각한다 [정원훈의 AI 트렌드]

인공지능(AI) 트렌드를 가장 빠르게 알 수 있는 허깅페이스를 분석하는 정원훈의 AI 트렌드입니다. 이번 주 허깅페이스는 한마디로 '모델은 더 작아지고, 에이전트는 더 똑똑해지고, 이미지는 더 똑똑하게 글자를 읽어낸' 한 주였습니다.

알리바바가 내놓은 차세대 에이전트 코딩 모델이 공개 1주일 만에 100만 다운로드를 돌파하며 오픈소스 생태계를 뒤흔들었습니다. 중국 문샷AI는 300개의 서브에이전트를 동시에 부리는 '군집형 AI'로 프런티어 모델의 개념을 재정의했고, 바이두는 포스터·만화까지 글자를 정확히 그려내는 이미지 생성 모델을 아파치(Apache) 2.0 라이선스로 풀었습니다. 그리고 단 0.1B(1억) 파라미터짜리 초경량 TTS가 맥북에어 CPU 한 코어만으로 실시간 음성 클로닝을 해냈습니다.

이번 주의 키워드는 네 가지입니다. '에이전트 코딩에 최적화된 알리바바의 MoE 모델 Qwen3.6-35B-A3B', '300개 서브에이전트를 오케스트레이션하는 문샷AI의 Kimi-K2.6', '브라우저에서 1.58비트로 구동되는 Ternary Bonsai', '맥북에어 CPU에서 돌아가는 OpenMOSS의 초경량 음성 합성기 MOSS-TTS-Nano'입니다. 이번 주도 퀴즈로 시작하겠습니다.

총 35B 파라미터 중 단 A3B(약 3B)만 활성화되는 MoE(전문가 혼합) 구조로, 262,144토큰의 컨텍스트를 기본 지원하고 최대 100만 토큰까지 확장 가능합니다. 특히 프런트엔드 개발과 리포지토리 단위 추론에서 두각을 보이며, '사고 과정 보존(Thinking Preservation)' 기능으로 이전 대화의 추론 맥락을 유지해 반복 작업의 오버헤드를 줄이는 이 알리바바의 에이전트 코딩 특화 모델의 이름은?

300개 서브에이전트가 4,000단계의 조율된 행동을 병렬로 수행하며, 문서·웹사이트·스프레드시트까지 한 번의 자율 실행으로 만들어내는 '에이전트 스웜(Agent Swarm)' 구조가 특징입니다. 비전과 언어를 네이티브로 통합한 멀티모달 구조로, 러스트·고·파이썬을 넘나드는 장기 코딩에 강점을 보이는 이 중국 문샷AI의 오픈소스 에이전트 모델의 이름은?

정답은 'Qwen3.6-35B-A3B'와 'Kimi-K2.6'입니다. 그럼 이번 주에는 어떤 혁신이 등장했는지 함께 살펴보겠습니다.

허깅페이스 4월 4주차 모델과 스페이스 톱3. / 정원훈 제공

AI 모델 톱3

1위: Qwen/Qwen3.6-35B-A3B | Image-Text-to-Text

"3B만 깨어 일 시켜도 35B처럼 생각한다… 알리바바의 에이전트 코딩 파운데이션, 공개 1주일 만에 100만 다운로드"

공개 며칠 만에 누적 다운로드 111만회, 좋아요 648개를 기록한 이 모델은 허깅페이스 트렌딩 1위를 단숨에 차지했습니다. 알리바바 큐원(Qwen)팀이 선보인 차세대 플래그십으로, 이름에서 '35B-A3B'가 의미하는 구조가 바로 핵심입니다.

진짜 포인트는 'MoE(Mixture of Experts, 전문가 혼합)' 구조입니다. 총 35B 파라미터의 거대한 지식 저장소를 갖추고 있지만, 질문이 들어올 때마다 A3B, 즉 약 3B 파라미터만 활성화됩니다. 쉽게 말해, 대형 로펌이 통째로 움직이는 게 아니라 사안에 맞는 전문 변호사 몇 명만 호출되는 방식이죠. 덕분에 연산 비용은 소형 모델 수준이면서, 성능은 대형 모델급을 유지합니다.

핵심 스펙을 살펴보면, 네이티브로 262,144토큰 컨텍스트를 지원하고 확장하면 최대 101만 토큰까지 처리 가능합니다. 신약 개발 보고서부터 긴 소스코드 저장소 전체를 한 번에 이해할 수 있는 수준입니다. 특히 이번 버전에서 주목받는 '사고 과정 보존(Thinking Preservation)' 옵션은 이전 메시지의 추론 맥락을 유지해, 반복적인 에이전트 작업에서 생기는 컨텍스트 손실과 오버헤드를 크게 줄였습니다.

무엇보다 아파치 2.0 라이선스라 상업적 이용에 제약이 없고, SGLang·vLLM·Ollama·LM Studio 등 주요 추론 엔진이 즉시 지원합니다. 폐쇄형 코딩 에이전트에 월 수십만 원을 쓰던 개발자들에게는 반가운 소식이 아닐 수 없습니다.

어디에 활용할 수 있을까요? 프런트엔드 UI 자동 생성, 대규모 코드 리포지토리 리팩토링, 자율형 데브옵스 에이전트, 장문 계약서·논문의 일괄 분석, 멀티모달(이미지+텍스트) 리서치 보조 등 긴 맥락과 단계적 사고가 필요한 작업 전반에 적합합니다.

2위: moonshotai/Kimi-K2.6 | Image-Text-to-Text

"300명의 AI 직원을 동시에 부리다… 문샷AI의 에이전트 스웜이 연 새로운 패러다임"

중국 AI 스타트업 문샷AI(Moonshot AI)가 내놓은 네이티브 멀티모달 에이전트 모델입니다. 이 모델의 진짜 혁신은 '에이전트 스웜(Agent Swarm)'이라는 개념입니다. 300개의 서브에이전트가 4,000단계의 조율된 행동을 병렬 수행하며, 복잡한 과제를 도메인별 하위 과제로 동적으로 분해한다는 거죠. 한 번의 자율 실행으로 문서·웹사이트·스프레드시트 같은 최종 결과물까지 만들어냅니다.

쉽게 풀면 이렇습니다. 기존 AI가 혼자 메모를 보며 일하는 '1인 기업'이었다면, Kimi-K2.6은 CEO가 300명의 전문 직원에게 일을 쪼개주고 결과를 종합하는 '중견기업'에 가깝습니다. 프런트엔드는 A팀, 백엔드는 B팀, 성능 최적화는 C팀이 동시에 움직이는 식이죠.

기능별 특장점을 살펴보면, 장기 코딩(Long-Horizon Coding)에서는 러스트·고·파이썬을 넘나들며 프런트엔드부터 데브옵스까지 종단간 작업을 수행합니다. 코딩 기반 디자인(Coding-Driven Design)은 간단한 프롬프트와 비주얼 입력만으로 프로덕션급 인터페이스와 경량 풀스택 워크플로를 생성합니다. 사전 능동적(Proactive) 오케스트레이션으로 24시간 쉼 없이 일정 관리·코드 실행·크로스플랫폼 연동을 자동 수행할 수 있습니다.

다만 한 가지 주의할 점은 모델 크기입니다. 전체 가중치가 약 595GB에 달하기 때문에 일반 개인 PC에서는 구동이 어렵고, H200 8장짜리 단일 노드나 그에 준하는 고성능 서버가 필요합니다. 라이선스는 수정 MIT(Modified MIT)로 상업적 이용이 가능합니다.

어디에 활용할 수 있을까요? 대규모 웹사이트 자동 구축, 기업 IT 운영 자동화, 다단계 비즈니스 리서치 보고서 생성, 장시간 자율 에이전트 운영 등 '한 번 시키면 알아서 끝내주는' 복잡한 과제 전반에 적합합니다.

3위: unsloth/Qwen3.6-35B-A3B-GGUF | Image-Text-to-Text

"35B 모델을 내 노트북에서 굴린다… 양자화가 연 오픈소스의 마지막 퍼즐"

언슬로스(Unsloth) 팀이 공개한 Qwen3.6-35B-A3B의 GGUF 양자화 버전입니다. 다운로드 49만회, 좋아요 152개로 3위에 올랐습니다. '양자화(Quantization)'는 쉽게 말해 고해상도 사진을 화질 손실 없이 용량만 줄이는 압축 기술에 비유할 수 있습니다. 원본 모델의 정밀도를 낮춰 용량과 메모리 요구량을 극적으로 줄이되, 성능은 최대한 보존하는 방식이죠.

이 저장소는 무려 15가지 양자화 버전을 제공합니다. BF16 원본부터 IQ1_M(약 10GB)이라는 초고압축 버전까지 선택지가 다양합니다. 예를 들어 MXFP4_MOE 버전은 21.7GB, Q8_0 버전은 36.9GB로, 웬만한 게이밍 PC나 맥북에서도 35B급 에이전트 모델을 직접 돌릴 수 있게 됐습니다.

의미는 분명합니다. 대형 모델을 인터넷 연결 없이 내 기기에서 돌리는 '진짜 온디바이스 AI'의 시대가 성큼 다가온 것입니다. llama.cpp·LM Studio·Ollama 등 일반 사용자도 쉽게 쓸 수 있는 도구들과 즉시 호환됩니다.

어디에 활용할 수 있을까요? 보안이 중요한 기업 내부망 배포, 오프라인 코딩 어시스턴트, 교육기관의 실습용 AI 서버, 개인 개발자의 로컬 에이전트 실험실 등 '클라우드로 못 보내는 데이터'를 다뤄야 하는 환경에 적합합니다.

AI 응용프로그램(Spaces) 톱3

허깅페이스 스페이스는 AI 모델을 웹 브라우저에서 바로 체험할 수 있는 플레이그라운드입니다. 코드 한 줄 없이 최신 AI 기술을 만져볼 수 있죠. 이번 주 가장 뜨거운 스페이스 3곳을 소개합니다.

1위: Ternary Bonsai WebGPU | webml-community

"1.58비트로 사고하는 AI… 설치도, 서버도 없이 브라우저에서 바로 돌아간다"

프리즘 ML(Prism ML)이라는 신생 스타트업이 만든 '1.58비트 Bonsai LLM'을 브라우저에서 체험할 수 있는 스페이스입니다. '1.58비트'가 생소하게 느껴지실 겁니다. 기존 LLM이 가중치 하나를 16비트 또는 32비트로 저장했다면, 이 모델은 '-1, 0, +1' 세 가지 값(삼진법)만으로 가중치를 표현합니다. 수학적으로는 log2(3) ≈ 1.58비트라 이런 이름이 붙었죠.

쉽게 비유하자면, 기존 모델이 모든 지식을 컬러 고화질 사진첩으로 저장했다면, 이 모델은 같은 내용을 흑백 실루엣 스케치로 저장하는 셈입니다. 용량은 수십분의 1로 줄고, 연산은 훨씬 가볍습니다. 그럼에도 추론 성능은 꽤 쓸 만한 수준을 유지한다는 점이 커뮤니티의 주목을 받았습니다.

이 스페이스는 웹GPU 기술로 브라우저 안에서 모델을 직접 구동합니다. 크롬 같은 최신 브라우저만 있으면 서버 왕복 없이 내 컴퓨터의 GPU로 AI가 돌아가는 것이죠. 데이터가 외부로 나가지 않는 '진짜 로컬 AI' 체험이 가능합니다.

사업 아이디어를 떠올려볼까요? 스마트폰·IoT·엣지 디바이스처럼 메모리가 극단적으로 제한된 환경에서 작동하는 온디바이스 AI, 데이터센터 전력 소비가 고민인 기업의 저전력 AI 인프라 검토에 매우 유용한 시연입니다.

2위 : ERNIE Image | baidu

"글자를 '그리지' 않고 '읽히게' 쓰는 AI… 중국 바이두가 꺼낸 8B 이미지 생성의 반격"

중국 바이두가 내놓은 텍스트-이미지 생성 모델 'ERNIE-Image'를 코딩 없이 체험할 수 있는 데모입니다. 이 모델의 가장 큰 차별점은 '이미지 안의 글자를 정확하게 그린다'는 점입니다. 포스터, 인포그래픽, 만화 말풍선, 다국어 간판 같은 텍스트 중심 이미지에서 두각을 나타냅니다.

사실 텍스트-이미지 모델의 오랜 숙제가 바로 '글자'였습니다. 'GIGAZINE'이라고 써달라면 'GIGAZNIE' 같은 엉뚱한 결과가 나오는 일이 비일비재했죠. ERNIE-Image는 단 8B 파라미터라는 비교적 작은 크기에도 불구하고 긴 문장, 레이아웃 민감 텍스트, 영어와 중국어 다국어 렌더링에서 강점을 보입니다.

구조를 살펴보면, 단일 스트림 디퓨전 트랜스포머(DiT, Diffusion Transformer)에 '프롬프트 인핸서(Prompt Enhancer)'라는 보조 모듈을 결합했습니다. 사용자가 짧은 한 줄 프롬프트만 입력해도, 내부적으로 이를 풍부한 구조적 묘사로 확장해 디퓨전 모델에 전달하는 방식이죠. 라이선스는 아파치 2.0으로 상업적 이용이 자유롭습니다.

어디에 활용할 수 있을까요? 마케팅 포스터·광고 시안 자동 생성, 웹툰·만화 콘티 작업, 제품 UI 목업, 다국어 사이니지 디자인, 인포그래픽 콘텐츠 제작 등 '글자 품질이 곧 제품 품질'인 비주얼 작업에 특히 유용합니다.

3위 : MOSS TTS Nano | OpenMOSS-Team

"0.1B 모델이 맥북에어 CPU 한 코어에서 목소리를 복제한다… 초경량 TTS의 극한 도전"

중국 복단대학 자연어처리연구소와 모시(MOSI) AI가 공동 개발한 오픈소스 OpenMOSS 팀이 내놓은 데모로, 단 0.1B(1억) 파라미터의 초소형 TTS 모델을 바로 체험할 수 있는 공간입니다. 최근 TTS 모델이 4B~8B로 점점 커지는 흐름과 정반대의 길을 간 모델입니다.

핵심은 '어디서든 돌아간다'는 점입니다. 맥북에어 M4의 CPU 단 1코어에서 부드럽게 구동되고, ONNX 런타임 기반이라 파이토치(PyTorch) 없이도 작동합니다. GPU가 필요 없다는 뜻입니다. 그럼에도 48kHz 스테레오 고음질 출력과 다국어 제로샷 음성 클로닝(짧은 샘플만으로 특정 목소리 복제)을 지원합니다.

사용법은 놀라울 정도로 단순합니다. 복제하고 싶은 목소리의 짧은 오디오 클립을 업로드하고 원하는 텍스트를 입력하면, 그 목소리가 그 텍스트를 읽어주는 결과물이 바로 나옵니다. 중국어와 영어 등 여러 언어를 지원합니다.

다만 음성 클로닝 기술은 윤리적 고려가 필수입니다. 본인 동의 없는 타인 목소리 복제는 법적·윤리적으로 심각한 문제를 일으킬 수 있으므로, 반드시 적법한 범위에서 활용해야 합니다.

어디에 활용할 수 있을까요? 브라우저 확장 기반 읽어주기 서비스, IoT 기기의 로컬 음성 안내, 오프라인 환경의 내비게이션·교육 기기, 개인용 오디오북 제작 도구 등 '작고, 빠르고, 인터넷 없이 돌아야 하는' 음성 인터페이스에 적합합니다.

시사점 & 인사이트

이번 주 트렌드를 한마디로 요약하면 'AI가 더 똑똑해지면서 동시에 더 작아지고 있다'입니다.

첫째, 에이전트 시대의 본격 개막이다.

이번 주 모델 톱3 중 1, 2위가 모두 에이전트 최적화 모델입니다. Qwen3.6-35B-A3B는 '사고 과정 보존'으로 장시간 자율 작업의 안정성을 높였고, Kimi-K2.6은 300개 서브에이전트의 '스웜' 개념으로 에이전트의 스케일 자체를 수직 확장했습니다. '질문에 답하는 AI'에서 '일을 끝내는 AI'로 무게중심이 빠르게 이동 중입니다. 기업 실무자라면 더 이상 '챗봇 도입'이 아니라 '에이전트 오케스트레이션'을 고민해야 할 시점입니다.

둘째, 'MoE + 양자화'가 대형 모델 민주화의 표준 공식으로 자리잡고 있다.

큐원3.6은 MoE로 '연산 효율'을 확보했고, 언슬로스의 GGUF 버전은 양자화로 '메모리 효율'을 확보했습니다. 두 기술이 결합되면서 35B급 플래그십 모델이 개인 PC에서 구동하는 시대가 열렸습니다. 불과 1년 전만 해도 꿈 같은 이야기였죠. 스타트업과 연구자에게는 반가운 소식이지만, 프리미엄 API 가격으로 수익을 올리던 상용 AI 사업자에게는 근본적 도전이 될 수 있습니다.

셋째, 이미지 생성의 경쟁축이 '화질'에서 '정확성'으로 이동하고 있다.

바이두 ERNIE-Image가 주목받는 이유는 '글자를 정확히 그려서'입니다. 그동안 미드저니·스테이블 디퓨전·플럭스 같은 모델들이 '더 아름답게'를 놓고 경쟁했다면, 이제는 '지시 내용을 얼마나 정확히 실행하는가'로 판이 바뀌는 중입니다. 포스터, 광고, 상업 디자인처럼 '글자 한 자가 곧 품질'인 실무 영역에서는 이 변화가 결정적입니다.

넷째, '극단적 경량화' 전략이 새로운 틈새를 열고 있다.

MOSS-TTS-Nano가 0.1B로 CPU 한 코어에서 작동한다는 사실은 단순한 기술 데모가 아닙니다. 아직 스마트 기기의 배터리와 칩셋 성능이 제한된 사물인터넷(IoT), 웨어러블, 차량, 가전 분야에서 AI의 '실제 탑재'가 가능해지는 기술적 변곡점을 의미합니다. 한국의 가전·자동차·반도체 산업이 주목해야 할 흐름입니다.

토막상식: 양자화(Quantization)란?

양자화는 쉽게 말해 'AI 모델의 다이어트'입니다. 일반적으로 AI 모델은 수백억 개의 숫자(파라미터)로 이뤄져 있는데 각 숫자를 16비트나 32비트의 높은 정밀도로 저장합니다. 원주율을 '3.14159265358979…'처럼 아주 정확하게 기록하는 셈이죠.

그런데 실제 AI 추론에서는 이 정도의 정밀도가 꼭 필요하지 않은 경우가 많습니다. 원주율을 '3.14'로만 써도 웬만한 계산은 문제없이 할 수 있는 것처럼 말이죠. 양자화는 바로 이 원리를 활용합니다. 32비트 숫자를 8비트, 4비트, 심지어 2비트까지 줄여서 저장합니다. 용량은 4분의 1에서 16분의 1 수준으로 급감하지만, 성능 저하는 놀라울 정도로 작습니다.

GGUF, GPTQ, AWQ 같은 용어들이 바로 양자화 방식의 이름들입니다. 이번 주 톱3에 오른 'unsloth/Qwen3.6-35B-A3B-GGUF'가 바로 이런 양자화 기술 덕분에 탄생한 모델입니다. 덕분에 과거엔 100만 원짜리 GPU 서버에서만 동작하던 대형 모델이, 이제는 30만원대 그래픽카드나 노트북에서도 구동됩니다. '대형 AI의 민주화'를 가능케 한 숨은 주역입니다.

마무리

이번 주 허깅페이스를 한 문장으로 요약하면 이렇습니다. "AI는 더 작아지면서 더 똑똑해지고, 더 가벼워지면서 더 일 잘하는 시대로 접어들었다." 알리바바는 MoE로 3B만 깨워도 35B처럼 생각하는 모델을 꺼냈고, 문샷AI는 300개 서브에이전트를 조율하는 AI 조직도를 그렸습니다. 바이두는 글자를 제대로 그릴 줄 아는 이미지 모델을 풀었고, OpenMOSS는 CPU 한 코어만으로 목소리를 복제하는 도전을 성공시켰습니다.

'더 크게'와 '더 정확하게'가 충돌하던 시대에서, 이제는 '더 똑똑하게 작게'가 정답이 되어가고 있습니다. 여러분의 산업 현장에서는 이 네 가지 흐름 중 어느 것부터 실험해볼 수 있을까요? 다음 주에도 허깅페이스의 최전선을 들고 오겠습니다.

※ 외부필자의 원고는 IT조선의 편집방향과 일치하지 않을 수 있습니다.

정원훈 텐에이아이 대표는 한국인공지능진흥협회 이사와 한국디지털자산포럼(KODIA Forum) 정책기획실장을 맡고 있다. 법률AI 서울로봇과 블록ESG 프로젝트를 총괄하며 한국지식재산교육연구학회 이사 겸 기술가치평가위원장과 한국벤처창업학회 이사로도 활동한다. 아시아경제신문사 뉴미디어본부, 매일경제인터넷 금융센터 팀장을 거쳐, SNS 개발과 대안신용평가 시스템, AI 기반 법률 서비스 등 혁신 프로젝트를 주도해 온 IT·금융 전문가다.