클로드의 뇌를 이식받은 오픈소스 [정원훈의 AI 트렌드]

인공지능(AI) 트렌드를 가장 빠르게 알 수 있는 허깅페이스를 분석하는 정원훈의 AI 트렌드입니다. 이번 주 허깅페이스는 한마디로 '추론이 이식되고, 몸이 생기고, 뇌가 작아진' 한 주였습니다.

거대 기업의 프리미엄 AI 추론 능력을 오픈소스 모델에 통째로 옮기는 대담한 실험이 이번 주에도 커뮤니티를 뜨겁게 달궜습니다. 텍스트 한 줄로 3D 인간 움직임을 만들어내는 모션 생성 모델이 게임·로보틱스 업계의 시선을 사로잡았습니다. 설치도, API 키도, 서버도 필요 없이 브라우저 탭 하나에서 추론하는 온디바이스 AI 시대가 성큼 다가왔습니다.

이번 주의 키워드는 세 가지입니다. '클로드(Claude) 오퍼스의 추론을 오픈소스로 이식한 큐원3.5-27B 디스틸드(Qwen3.5-27B Distilled)', '700시간 모션캡처로 학습한 엔비디아(NVIDIA)의 키모도(Kimodo)', '수학올림피아드 금메달 수준을 30억 개 파라미터로 구현한 네모트론-캐스케이드 2(Nemotron-Cascade-2)'입니다. 이번 주도 퀴즈로 시작하겠습니다.

알리바바의 Qwen3.5-27B 모델에 앤트로픽 클로드 4.6 오퍼스(Claude 4.6 Opus)의 추론 흔적을 SFT+LoRA로 주입해 만든 이 오픈소스 모델은 RTX 3090 한 장에서 9분 이상 자율 코딩 에이전트를 중단 없이 구동했다는 커뮤니티 테스트로 화제가 됐습니다. <think> 태그 안에서 단계별로 사고한 뒤 최종 답을 내놓는 구조로, 아파치(Apache) 2.0 라이선스로 상업적 이용도 자유롭습니다. 이 모델의 이름은?

엔비디아가 공개한 이 오픈 모델은 총 300억 파라미터이지만 실제 작동 시에는 30억 개만 활성화되는 MoE 구조를 가집니다. 캐스케이드 RL과 다중 도메인 온폴리시 증류를 결합한 훈련으로 2025 국제수학올림피아드와 국제정보올림피아드에서 각각 금메달 수준의 성능을 달성했으며, 같은 성능을 보인 671B 모델보다 파라미터가 약 20분의 1에 불과합니다. 이 모델의 이름은?

정답은 'Qwen3.5-27B-Claude-4.6-Opus-Reasoning-Distilled'와 'Nemotron-Cascade-2-30B-A3B'입니다. 그럼 이번 주에는 어떤 혁신이 등장했는지 함께 살펴보겠습니다.

3월 넷째주 허깅페이스 주간 톱3 / 정원훈 제공

AI 모델 톱3

1위: Jackrong/Qwen3.5-27B-Claude-4.6-Opus-Reasoning-Distilled | Image-Text-to-Text

"클로드의 생각법을 오픈소스에 이식하다… 지식 증류의 대담한 실험, 2주 연속 상위권"

지난 주 2위와 1위가 사이좋게 자리를 바꿔앉았습니다. 이름부터 범상치 않은데요. 알리바바의 Qwen3.5-27B 베이스 모델에 앤트로픽의 클로드 오퍼스 4.6 추론 데이터를 '지식 증류(Knowledge Distillation)' 기법으로 학습시킨 모델입니다. 쉽게 말하면 값비싼 최강 AI 선생님(Claude Opus)이 문제를 풀어나가는 사고 과정을 저렴한 오픈소스 학생 모델(Qwen3.5-27B)에게 통째로 가르친 겁니다.

진짜 포인트는 ‘사고 과정의 이식’입니다. 기존 방식이 정답지만 보여줬다면, 지식 증류는 답을 내기까지의 단계적 추론 과정 자체를 학습 데이터로 삼습니다. ‘1번, 핵심 목표 파악 → 2번, 하위 과제 분류 → 3번, 제약 조건 점검…' 이런 구조화된 사고 패턴을 SFT(지도 미세조정)와 LoRA로 주입한 것이죠. 덕분에 복잡한 수학 풀이, 논리 추론, 코딩 문제 해결에서 원본 Qwen3.5-27B 대비 눈에 띄는 성능 향상을 보입니다.

핵심 구조를 살펴보면, 답변 전에 <think> 태그 안에서 머릿속으로 단계별 계획을 세우고, 그 다음 최종 답을 내놓는 구조입니다. '생각 후 말하기' 훈련이 된 모델이라고 보면 됩니다.

커뮤니티 테스트에서 RTX 3090 한 장으로 9분 이상 자율 코딩 에이전트를 중단 없이 구동했다는 결과도 화제입니다. 클로드 코드, 오픈 코드 같은 코딩 에이전트와 바로 호환되며, 아차피 2.0 라이선스로 상업적 이용에 아무 제약이 없습니다. 폐쇄형 API에 월 수십만 원을 쓰던 개발자들이 관심을 보이는 이유가 바로 여기 있습니다.

어디에 활용할 수 있을까요? 법률·의료 문서의 단계적 분석, 복잡한 비즈니스 의사결정 보조, 수학·과학 교육 AI 튜터, R&D 아이디어 논리 검증, 로컬 코딩 에이전트 구동 등에 적합합니다.

2위: HauhauCS/Qwen3.5-35B-A3B-Uncensored-HauhauCS-Aggressive | Image-Text-to-Text

"검열을 수술적으로 걷어낸 350억 모델… 오픈소스 자유의 최전선"

지난 주 1위였던 모델이 이번주는 2위입니다. 올해 2월 알리바바가 공개한 Qwen3.5 시리즈는 AI 업계에 신선한 충격을 줬는데요. 350억 개 파라미터 중 고작 30억 개만 활성화하는 MoE(Mixture-of-Experts) 구조로, 적은 그래픽처리장치(GPU) 자원으로도 대형 모델 수준의 성능을 뽑아내 화제가 됐죠. 그런데 이 모델을 커뮤니티 개발자 하우하우CS(HauhauCS)가 한 단계 더 끌고 갔습니다.

'Uncensored-Aggressive'라는 이름에서 짐작하듯이, 원본 모델의 안전 필터를 abliteration(수술적 검열 해제) 기법으로 제거한 모델입니다. 쉽게 말해, 모델 내부에서 '이 질문은 거부해야 한다'고 판단하는 방향(벡터)을 수학적으로 찾아내 깔끔하게 잘라낸 겁니다. 결과는 놀랍습니다. 465개 거부 테스트에서 0건의 거부, 즉 어떤 질문에도 답하는 모델이 된 거죠.

중요한 건 모델의 지식이나 멀티모달(이미지+텍스트) 능력에는 손상이 전혀 없다는 점입니다. 비유하자면, 시험 문제를 다 풀 수 있는 학생에게서 '이건 안 풀겠습니다'라는 고집만 빼낸 것과 같습니다. llama.cpp, LM Studio 등 주요 로컬 실행 도구를 모두 지원하는 GGUF 포맷으로 제공됩니다.

꼭 주의해야 할 점은 필터가 없다는 점입니다. 즉, 안전 필터가 없는 만큼 상용 서비스 적용 시에는 별도의 가드레일(안전장치)이 필수입니다. 칼 자체에는 선악이 없듯, 도구의 책임은 사용자에게 있다는 점을 꼭 기억해주세요.

어디에 활용할 수 있을까요? 제한 없는 창작 보조, 연구용 레드팀(보안 테스트), 검열 없는 커스텀 챗봇 개발 등에 적합합니다. 단, 안전 거버넌스 체계를 별도로 갖춘 전문 연구·개발 환경에서의 활용을 권장합니다.

3위: nvidia/Nemotron-Cascade-2-30B-A3B | Text Generation

"수학올림피아드 금메달을 30억 파라미터로… '초고밀도 지능'의 시대"

이번 주 가장 '격'이 다른 등장입니다. 엔비디아가 공개한 이 모델은 총 300억 파라미터이지만 MoE 구조로 실제 30억 개만 활성화됩니다. 그런데 이 작은 활성 파라미터로 놀라운 성과를 냈습니다.

2025 국제수학올림피아드(IMO)와 국제정보올림피아드(IOI)에서 금메달 수준의 성능을 달성했습니다. 같은 수준을 달성한 선행 모델 딥시크V3.2-스페셜(DeepSeekV3.2-Speciale(671B))과 비교하면 파라미터 수가 약 20분의 1에 불과합니다. 이른바 '초고밀도 지능(Intelligence Density)'의 시대가 열렸다고 볼 수 있습니다.

핵심 기술은 캐스케이드 RL(계단식 강화학습)과 다중 도메인 온폴리시 증류(On-Policy Distillation)를 결합한 훈련 방식입니다. 'Thinking 모드(추론 과정 공개)'와 'Instruct 모드(빠른 답변)'를 상황에 따라 선택해서 쓸 수 있고, 최대 262K 토큰의 컨텍스트를 지원합니다.

비유하자면 이렇습니다. 100명의 직원이 있는 대형 연구소인데 실제 각 프로젝트마다 딱 3명의 전문가만 투입합니다. 나머지 97명은 대기 상태지만 회사의 '지식 자산'으로 남아 있는 구조입니다. 덕분에 운영 비용은 작고 전문성은 높습니다.

어디에 활용할 수 있을까요? 수학·과학 추론, 코드 생성·디버깅, 멀티에이전트 시스템, 에이전틱 태스크 등 고난도 논리 작업 전반에 활용 가능하며, 기업용 AI 에이전트 인프라 구축의 핵심 모델로 주목받고 있습니다.

AI 응용프로그램(Spaces) 톱3

허깅페이스 스페이스는 AI 모델을 웹 브라우저에서 바로 체험할 수 있는 플레이그라운드입니다. 코드 한 줄 없이 최신 AI 기술을 만져볼 수 있죠. 이번 주 가장 뜨거운 스페이스 3곳을 소개합니다.

1위: Kimodo | NVIDIA

"텍스트 한 줄로 3D 인간이 걷고, 뛰고, 넘어진다… 모션 AI의 새 기준"

"걷다가 넘어지며 일어나는 동작"을 텍스트로 입력하면, AI가 실제 3D 캐릭터 움직임을 생성해줍니다. 이것이 키모도(키네마틱 모션 디퓨전)의 핵심입니다. 엔비디아 연구팀이 700시간 분량의 전문 광학 모션캡처 데이터를 학습에 사용했습니다. 기존 모션 생성 모델들이 비디오에서 재구성한 노이즈 많은 데이터를 쓴 것과는 차원이 다른 품질입니다. 텍스트 프롬프트뿐만 아니라 '특정 관절의 위치 고정', '이동 경로 지정', '발 디딤 패턴' 같은 정밀 제어도 가능합니다.

재미있는 점은 인간 캐릭터(SOMA 골격)뿐만 아니라 유니트리(Unitree) G1 휴머노이드 로봇 동작까지 생성할 수 있다는 것입니다. GPU 없이 브라우저에서 무료로 체험 가능하며, RTX 3090 기준 2~5초 만에 결과가 나옵니다. 아파치 2.0 기반 라이선스로 상업적 배포도 허용합니다.

어디에 활용할 수 있을까요? 게임 캐릭터 애니메이션 제작/로봇 훈련용 데모 데이터 생성/영화·광고 프리비즈(pre-viz) 제작/재활 운동 시뮬레이션. 엔터테인먼트부터 로보틱스까지 범위가 매우 넓습니다.

2위: Foundation 1 | multimodalart

"완성된 곡이 아니라 '재료'를 만든다… 프로듀서를 위한 AI 샘플 생성기"

'스테빌리티(Stability) AI의 아키텍처 위에 음악 제작 철학을 입힌 모델'이라고 설명하면 가장 정확합니다. 파운데이션-1(Foundation-1)은 완성된 곡을 뽑아주는 일반 AI 음악 도구와는 결이 다릅니다.

뮤지션과 프로듀서가 실제 작업 현장에서 쓰는 방식, 즉 템포에 맞는 루프(loop), 특정 조성(key)에 맞는 악기 샘플, 4마디·8마디 단위의 구조화된 오디오 클립을 만드는 데 최적화되어 있습니다. 10개의 악기 계열(신디사이저, 건반, 베이스, 현악, 타악 등)과 다양한 하위 악기군을 별도로 제어할 수 있습니다.

비유하자면 기존 AI 음악 도구가 '뚝딱 완성된 피자를 만들어준다'면, Foundation-1은 '도우, 소스, 토핑을 각각 내 손으로 골라 쌓을 수 있게 해주는' 도구입니다. 연간 매출 100만 달러 미만 기업은 스테빌리티 AI 커뮤니티 라이선스 하에 무료 사용이 가능합니다.

어디에 활용할 수 있을까요? 게임 배경음악 에셋 제작/광고 음악 샘플링/인디 뮤지션 데모 트랙 제작/음악 교육용 악기별 샘플 생성. '재료'를 만들어준다는 점에서 기존 AI 음악 도구와 확실히 차별화됩니다.

3위: Nemotron 3 Nano WebGPU | webml-community

"서버도, API 키도, 설치도 없이… 브라우저 탭 하나로 AI 추론이 돌아간다"

'클라우드 서버 없이 내 노트북 브라우저에서 AI가 돌아간다.' 조금 전까지는 공상과학 얘기처럼 들렸는데, 이제 현실입니다. 이 스페이스는 웹GPU 기술을 활용해 엔비디아의 Nemotron-3-Nano 모델을 완전히 브라우저 안에서 실행합니다. 입력한 프롬프트가 외부 서버로 나가지 않고 사용자의 기기 안에서 처리됩니다. 데이터 프라이버시가 중요한 환경에서는 이것 하나만으로도 큰 의미가 있습니다.

기술 포인트는요. 웹GPU는 브라우저가 컴퓨터의 GPU를 직접 제어할 수 있게 해주는 최신 웹 표준입니다. 크롬, 엣지 등 최신 브라우저에서 지원되며, 설치나 API 키가 전혀 필요 없습니다. '온디바이스 AI'의 웹 버전이라고 이해하면 쉽습니다. 단, 현재는 최신 크롬 계열 브라우 와 중급 이상의 GPU가 있어야 원활하게 작동합니다. 모델의 추론 능력이 완전하진 않지만, 엣지 AI(Edge AI)의 가능성을 직접 체험해볼 수 있는 의미 있는 스페이스입니다.

어디에 활용할 수 있을까요? 개인정보 보호가 중요한 의료·법률 분야의 현장 AI 활용 프로토타이핑 /API 비용 없이 AI 기능을 테스트하려는 스타트업 개발자/네트워크 연결이 불안정한 환경에서의 AI 사용이 가능합니다.

시사점 & 인사이트

이번 주 트렌드를 한마디로 요약하면 '작아지고, 이식되고, 가까워진다'입니다. AI는 더 이상 대형 데이터센터 안에서만 작동하는 거대한 도구가 아닙니다.

첫째, '효율'이 새 패러다임이다… 작지만 강한 모델의 역습

이번 주 모델 세 개 모두 공통점이 있습니다. 큰 모델이 아닙니다. Qwen 27B, Qwen 35B(3B 활성), Nemotron 30B(3B 활성) 등 이들 모두 수백 억 파라미터 거대 모델이 아니면서도 특정 지표에서 그들을 뛰어넘거나 근접했습니다. AI 업계가 '크기 경쟁'에서 '효율 경쟁'으로 무게중심을 옮기고 있다는 신호입니다. IMO 금메달 수준 성능을 30억 개 파라미터로 달성한 Nemotron-Cascade-2는 그 상징적 사례입니다.

둘째, 추론 능력의 '민주화'가 빠르게 진행 중이다

클로드 오퍼스의 추론 로직을 오픈소스 모델에 이식한 시도는 AI 생태계의 무게추를 바꾸고 있습니다. 기업들은 GPT-4급 추론 능력을 쓰기 위해 매달 비싼 API 비용을 치러왔습니다. 지식 증류 기술이 확산되면서 '좋은 AI는 비싸다'는 공식이 서서히 무너지고 있습니다. 스타트업과 연구기관에게는 반가운 소식이지만, 상용 AI 서비스 사업자에게는 상당한 위협이 될 수 있습니다.

셋째, AI의 몸이 생기고 있다 — Physical AI로의 확장

Kimodo는 단순한 애니메이션 도구가 아닙니다. 텍스트→모션→로봇 훈련 데이터로 이어지는 파이프라인은 AI가 디지털 세계를 넘어 물리 세계로 진출하는 중요한 발판입니다. 엔비디아가 이 분야에 Kimodo라는 이름의 연구 성과를 오픈소스로 공개했다는 사실 자체가, 로보틱스·제조 자동화·재활의료 등 피지컬 AI 시대의 도래를 알리는 신호탄입니다.

넷째, '브라우저 = AI 실행 환경'이라는 등식이 굳어지고 있다

웹GPU 기반 브라우저 추론 스페이스는 아직 초기 단계이지만, '내 데이터가 서버로 나가지 않는 AI'에 대한 수요는 의료·법률·금융 분야에서 폭발적으로 커질 것입니다. 서버 비용 없이, API 키 없이, 데이터 유출 걱정 없이 AI를 쓸 수 있는 '온디바이스 AI' 시대가 성큼 다가왔습니다. 한국 기업들이 강점을 보이는 반도체·스마트 디바이스 분야에서 이 트렌드를 전략적으로 활용할 여지가 큽니다.

토막 상식: 지식 증류(Knowledge Distillation)

최근 이슈로 떠오른 지식 증류를 좀 더 살펴보겠습니다.

"선생님의 생각법을 통째로 배우다… 작은 모델이 강해지는 비결"

지식 증류(Knowledge Distillation)란 성능이 뛰어난 큰 모델(교사 모델)의 '지식'을 더 작은 모델(학생 모델)로 옮기는 기술입니다. 이번 주 가장 화제가 된 Qwen3.5-27B-Claude-Opus-Distilled 모델이 바로 이 방법을 사용했죠.

사람에 비유해보겠습니다. 전통적인 AI 학습 방식은 정답지(훈련 데이터)만 보고 공부하는 것입니다. 그런데 지식 증류는 다릅니다. 수학 천재 선생님(Claude Opus)이 문제를 푸는 과정 전체, 즉 '왜 이 공식을 썼는지', '어떤 순서로 접근했는지', '어떤 선택지를 배제했는지'를 학생이 옆에서 보고 따라 배우는 방식입니다.

기술적으로는 세 가지 핵심 단계가 있습니다.

1단계: 교사 모델(Claude Opus)이 수천~수만 개의 문제를 풀면서 추론 과정을 기록합니다.

2단계: 이 추론 흔적을 정제·필터링해 고품질 학습 데이터셋을 만듭니다.

3단계: 학생 모델(Qwen3.5-27B)이 이 데이터로 SFT(지도 미세조정)를 받아 같은 사고 패턴을 흡수합니다.

산업적 의미는 큽니다. 기존에는 GPT-4, 클로드 오퍼스급 추론 능력을 쓰려면 해당 회사의 API에 매달 수십~수백만 원을 지불해야 했습니다. 지식 증류 덕분에 로컬 환경에서 비슷한 수준의 추론을 무료로 돌릴 수 있는 가능성이 열리고 있습니다. 물론 아직은 차이가 있지만, 그 간격이 빠르게 좁혀지고 있다는 점이 핵심입니다.

다만 주의점도 있습니다. 교사 모델의 '실수'나 '편향'까지 함께 이식될 수 있어, 학습 데이터의 품질 관리가 매우 중요합니다. 이번 잭롱(Jackrong)의 모델도 '할루시네이션(환각) 위험'이 있다고 명시하고 있습니다. 지식을 잘 흡수한 학생이라도, 선생님이 틀렸을 때는 함께 틀릴 수 있습니다.

마무리

이번 주 허깅페이스는 '추론이 이식되고, 몸이 생기고, AI가 내 기기 안으로 들어온' 한 주였습니다. 잭롱이 클로드 오퍼스의 사고방식을 오픈소스에 조용히 이식하는 동안 엔비디아는 텍스트로 로봇을 춤추게 하는 키모도를 세상에 내놨습니다. 그리고 네모트론은 671B 거인이 하던 일을 30B짜리 신예가 해낸다는 것을 증명했습니다. 웹GPU 스페이스는 '브라우저 = AI 실행 환경'이라는 새 등식을 서서히 일상으로 끌어당기고 있습니다.

이번 주를 한 문장으로 요약하면 이렇습니다. "AI는 더 작아지고, 더 깊어지고, 더 가까워지고 있다." 중요한 건 이 기술을 어떻게 활용할 것인가입니다. 다음 주에는 또 어떤 혁신이 우리를 기다리고 있을까요? AI는 빠르게 변합니다. 그렇기에 변화를 읽는 눈은 더 빠르게 키워야 합니다.

※ 외부필자의 원고는 IT조선의 편집방향과 일치하지 않을 수 있습니다.

정원훈 텐에이아이 대표는 한국인공지능진흥협회 이사와 한국디지털자산포럼(KODIA Forum) 정책기획실장을 맡고 있다. 법률AI 서울로봇과 블록ESG 프로젝트를 총괄하며 한국지식재산교육연구학회 이사 겸 기술가치평가위원장과 한국벤처창업학회 이사로도 활동한다. 아시아경제신문사 뉴미디어본부, 매일경제인터넷 금융센터 팀장을 거쳐, SNS 개발과 대안신용평가 시스템, AI 기반 법률 서비스 등 혁신 프로젝트를 주도해 온 IT·금융 전문가다.