에이전틱 AI(자율수행 AI)와 소버린 AI. '엔비디아 네모트론 디벨로퍼 데이즈 서울 2026(NVIDIA Nemotron Developer Days Seoul 2026)'에서 브라이언 카탄자로(Bryan Catanzaro) 엔비디아 응용 연구 부문 부사장의 기조연설은 이 2개의 키워드로 압축된다.
21일 서울 마포구 소재 디캠프 마포에서 열린 엔비디아 네모트론 디벨로퍼 데이즈 서울 2026(NVIDIA Nemotron Developer Days Seoul 2026)의 첫 일정은 카탄자로 엔비디아 부사장의 기조연설로 시작됐다. 그는 '연구자를 위한 툴킷: 오픈 모델, 데이터셋, 기술(The Researcher’s Toolkit: Open Models, Datasets, and Techniques)'를 주제로 한 기조연설에서 엔비디아 네모트론 제품군을 활용해 맞춤형 모델과 AI 에이전트를 효율적으로 훈련하고 평가하는 방법을 소개했다.
네모트론은 엔비디아 자체 AI 모델(LLM)로, 기업 사용에 초점을 맞추고 있다. 외부 API를 거치지 않고 로컬 전용 하드웨어에서 직접 실행할 수 있어 온프레미스 기반 보안을 만족시키며, 기업 내부 데이터에 의한 미세조정이 허용된다.
네모트론 자체는 오픈웨이트 모델이지만 기업에서 최적의 환경으로 실행, 배포할 수 있는 기능들은 상용으로 제공된다. 최신 버전인 네모트론3 슈퍼는 1200억 파라미터를 갖는 오픈 모델이다. 특히 오픈클로(OpenClaw) 에이전트 성능을 측정하는 핀치벤치 테스트에서 오픈 모델 중 최고 점수인 85.6%를 기록했다.
'엔비디아 네모트론 디벨로퍼 데이즈 서울 2026에서 기조연설 중인 브라이언 카탄자로 엔비디아 응용 딥러닝 연구 부문 부사장. (사진=디일렉)
카탄자로 엔비디아 부사장은 엔비디아가 가속 컴퓨팅, 네모트론 모델, 데이터셋, 레시피, 라이브러리 등으로 구성된 풀스택 플랫폼으로 국내 개발자 커뮤니티를 지원하고 있다고 강조하면서 이번 행사도 이의 일환이라고 소개했다. 또 한국의 AI 기업 생태계가 엔비디아 풀스택 플랫폼을 도입해 통신, 제조, 헬스케어, 공공 서비스 등 다양한 산업 분야의 파운데이션 모델을 구축하고 있다고 밝혔다.
엔비디아에 따르면 네이버 클라우드(NAVER Cloud)는 엔비디아 훈련 기술과 자체 데이터셋·파이프라인을 결합해 한국어 모델을 개발하고 검증과 사후 훈련을 진행 중이다. LG AI연구원(LG AI Research)은 엑사원(EXAONE) 기반 산업용 AI 모델을 위해 엔비디아 프레임워크와 데이터셋으로 대규모 훈련과 파인 튜닝을 수행하고 있다.
SK텔레콤은 엔비디아 클라우드 파트너(NVIDIA Cloud Partner, NCP)인 쿠팡(Coupang)의 클라우드 인프라를 활용해 MoE(mixture-of-experts)인 A.X K1을 훈련하고 다양한 산업에 확산하고 있다.
또 크래프톤(KRAFTON)은 메가트론-LM(Megatron-LM)과 자체 최적화를 통해 파운데이션 모델 '라온(Raon)'을 개발하며 게임·콘텐츠 영역에 적용하고 있다. 모티프테크놀로지스는 기업·공공 부문 AI 애플리케이션 구축에 네모트론 기술과 전체 데이터셋을 활용하고 있으며, 트릴리온랩스(Trillion Labs)는 GPU 가속 사전 훈련 데이터 큐레이션 도구인 네모 큐레이터(NeMo Curator) 등을 활용해 산업·의료 특화 AI 에이전트와 모델을 개발하고 있다.
엔비디아 네모트론 디벨로퍼 데이즈 서울 2026 현장.(사진=디일렉)
카탄자로 엔비디아 부사장은 특히 한국 정부 주도의 독자 파운데이션 모델(AI Foundation Model Project, K-AI 프로젝트) 개발과 같은 접근 방식은 한국어와 한국 문화, 실제 사용 사례를 반영한 데이터로 훈련된 현지 특화 AI(소버린 AI) 개발에 중점을 두고 있는 것이라고 강조했다.
한국 소버린AI 지원의 일환으로 엔비디아는 국가통계포털(KOSIS), 대법원, 국민건강보험공단, 한국농촌경제연구원, 네이버 클라우드 등 다양한 출처의 공식 인구조사와 노동 데이터를 기반으로 한 600만건 규모의 합성 데이터셋 '네모트론-페르소나-코리아(Nemotron-Personas-Korea)'를 공개했다. 모든 페르소나는 완전 합성된 데이터로 구성돼 있으며, 개인정보(PII)를 전혀 포함하지 않아 국내 개인정보보호법(PIPA)을 준수한다는 설명이다.
엔비디아는 "이 데이터셋은 존댓말 체계부터 지역별 직업 패턴에 이르기까지 한국의 인구통계학적, 지리적, 문화적 다양성을 반영해 개발자들이 지역적 맥락을 더 잘 이해하는 AI 시스템을 구축할 수 있도록 지원한다"고 소개하고 있다.
이러한 개발에 자사의 네모클로도 기여할 것으로 기대하고 있다. 네모클로는 개인 개발자가 오픈소스로 발표한 에이전틱 AI 툴 '오픈클로(OpenClaw)'에 엔비디아의 보안 계층을 결합한 것이다. 오픈클로는 엄청난 잠재력을 자랑하지만 보안 취약점이 기업에서의 활용을 발목잡고 있다. 국내 대기업들의 경우 오픈클로 사용을 금지하고 있는 상태다.
엔비디아 네모트론 디벨로퍼 데이즈 서울 2026 현장.(사진=디일렉)
오픈클로에 적용된 엔비디아의 보안 계층은 '오픈쉘 런타임'이다. "네모클로는 오픈소스인 오픈클로 에이전트를 보다 안전하게 실행하기 위해 설계된 레퍼런스 스택"으로, "한 번의 설치로 엔비디아 오픈쉘(OpenShell) 런타임과 네모트론 오픈 모델을 함께 구성해 프라이버시·보안 컨트롤을 추가하는 역할을 한다"는 게 엔비디아의 설명이다.
엔비디아 오픈쉘은 리눅스 커널 격리, 파일시스템/네트워크 정책, 추론 호출 가로채기, 자격 증명 재작성 등 에이전트가 코드를 실행하고 네트워크·도구에 접근하는 방식을 정책 기반으로 제어하는 샌드박스 런타임이다.
오픈클로와 같은 에이전틱(자율수행) AI 에이전트는 기존 소프트웨어와 달리 스스로 코드를 실행하고 외부 API를 호출하며 데이터를 읽고 쓴다. 자동화된 행위가 무제한의 권한을 갖게 되면 감당할 수 없는 피해가 발생할 수 있다.
프롬프트 인젝션 공격이 교묘하게 숨어 있다가 공격을 시작하는 특정 조건을 만족시킬 경우 데이터가 유출되거나 대금 결제가 엉뚱한 계좌로 이체되기도 한다. 공격 지시 시점과 실제로 공격이 일어나는 시점에 상당히 오랜 시차가 있을 수 있기 때문에 추후 근원을 파악하기도 어렵다.
오픈쉘은 리눅스 커널 격리로 에이전트 실행 환경을 OS 레벨에서 분리해 AI가 시스템 전체를 건드리지 못하도록 제어해준다. 또 AI 에이전트가 접근할 수 있는 파일, 네트워크(통신하는 서버)를 제한할 수 있도록 설정할 수 있다. 이는 기업 내부 데이터에 대한 무단 접근, 또 기업 데이터의 외부 유출을 막을 수 있는 제어 장치가 된다.
엔비디아 네모트론 디벨로퍼 데이즈 서울 2026 내 빌드 어 클로에서 기술 데모. (사진=디일렉)
추론 호출 가로채기를 실시하면 모델의 요청이나 응답을 관리자가 검사, 수정할 수 있어 에이전트 AI 내 숨어 있는 프롬프트 인젝션 공격이나 이상 행동을 방지할 수 있다. API 키나 토큰을 노출하지 않고 오픈쉘 런타임이 대신 관리하고 필요한 형태로 변환하는 자격증명 재작성 기능을 통해서는 기밀 정보나 비밀번호 유출을 방지하면서 최소 권한 원칙이 적용된다.
특히 '이 에이전트로 무엇을 할 수 있는가'를 규칙으로 정할 수 있다는 것이 오픈쉘 런타임의 핵심 기능이다. 예를 들면 기업 내부에서 사용할 때 외부 인터넷을 사용하지 못하도록 하거나 특정 DB 액세스 금지, 혹은 특정 API만 허용하는 등 기업의 보안 지침과 AI 거버넌스에 따라 자율 AI 에이전트를 개발, 사용할 수 있도록 해주는 것이다.
네모클로는 현재 얼리 프리뷰 단계다. 이후 발표 계획에 대해 엔비디아는 구체적인 로드맵을 공개할 수는 없지만 "오픈쉘 정책 엔진과 네트워크·파일 격리 기능을 더욱 강화하고, 엔비디아 네모클로가 제공하는 예시 정책·구성 템플릿을 고도화하며, 제3자(서드파티) SW와 연계를 늘려가는 것이 전반적인 방향"이라고 밝혔다. 이를 통해 오픈클로 포함 다양한 에이전틱 AI 솔루션들이 기업 환경에서 활용될 수 있을만큼 성숙도를 높여간다는 계획이다.
다만, 국내 대기업들, 카카오나 네이버클라우드 등 IT 서비스 기업들의 에이전틱 AI 도입, 확산은 해당 솔루션이 조직의 거버넌스 요건을 충족시키는 것이 전제다.
엔비디아는 오픈쉘과 네모클로를 중심으로 이러한 흐름에 기여하고 있으며, 향후에도 에이전틱 AI가 기업 거버넌스 기준을 충족할 수 있는 수준으로 빠르게 성숙해질 수 있도록 지속적으로 기여할 계획이라고 강조했다. 네모클로는 아파치 2.0 라이선스 기반 오픈소스 프로젝트로, 깃허브(GitHub) 저장소와 공식 웹페이지에서 개발자의 자유로운 참여가 가능하다.
엔비디아 네모트론 디벨로퍼 데이즈 서울 2026 내 빌드 어 클로에서 엔비디아 엔지니어가 네모트론과 네모클로를 활용한 에이전트 개발을 시연해 보이고있다. (사진=디일렉)
한편, 엔비디아 네모트론 디벨로퍼 데이즈 서울 2026에서는 지난달 엔비디아의 글로벌 컨퍼런스 GTC 2026에서 선보였던 실습형 AI 에이전트 구축 데모 '빌드 어 클로(Build-a-Claw)'도 함께 진행됐다.
빌드 어 클로 세션에서 참가자들은 네모트론 오픈 모델, 데이터셋, 라이브러리를 중심으로 구성된 기술 프로그램을 통해 GPU 인프라, 데이터 파이프라인, 모델 훈련, 최적화 기법 등 풀스택 AI 기술을 체험하고, 엔비디아 전문가 팀의 지원을 받아 자신만의 에이전트를 직접 구축해보는 경험을 가졌다.
엔비디아 네모트론 디벨로퍼 데이즈 서울 2026는 2일간 열리며, 22일 두 번째 일정은 서울대학교 해동첨단공학관에서 열린다.
◇ "반도체 회사에서 풀스택 AI 기업으로"
최근까지 엔비디아의 행보를 보면, 반도체 업체에서 풀스택 AI 기업으로의 전환에 박차를 가하고 있는 모습이다. 물론 여전히 막대한 매출이 GPU에서 발생되며, 이 수익이 AI 모델 개발, AI 스타트업들에 대한 투자의 원천이지만 엔비디아의 소프트웨어 스택은 AI 모델과 관련 소프트웨어, 실행 환경까지 아우르고 있다.
엔비디아 변화의 핵심에는 다양한 산업과 용도에 맞춰 설계된 자체 AI 모델 포트폴리오가 있다. 에이전트 AI를 지향하는 네모트론을 통해서는 오픈웨이트 모델 전략에 기반을 두고 기업 고객들이 자체 환경에서 실행, 커스터마이징할 수 있도록 하고 있다. 오픈AI 등 API 중심의 폐쇄형 모델과 대비되는 접근 방식은 LLM 후발주자 입장에서는 당연한 것일 수도 있다. GPU 등 하드웨어 인프라와 함께 오픈 모델 정책으로 자사 AI 생태계를 구축하려는 의도를 보여준다.
또 최근에는 양자컴퓨팅 영역까지 AI 모델을 확장했다. '아이징(Ising)'으로 불리는 이 모델은 양자 프로세서의 오류 정정과 보정(calibration)을 자동화하는 데 초점을 맞추고 있다. 양자컴퓨터의 상용화를 가로막는 주요 과제 중 하나가 안정성이라는 점을 고려하면, 양자컴퓨팅이 안정성을 확보할 때 AI 워크로드를 대거 수용할 수 있게 된다. 이러한 측면에서 아이징은 차세대 컴퓨팅 패러다임을 겨냥한 엔비디아의 전략적 자산으로 해석되며 엔비디아의 향후 행보가 기대된다.
이외에도 물리 시뮬레이션과 디지털 트윈을 위한 코스모스(Cosmos), 휴머노이드 로봇을 위한 GR00T, 자율주행을 위한 알파마요(Alpamayo), 헬스케어 영역에서의 클라라(Clara), 그리고 기후 시뮬레이션을 위한 어스-2(Earth-2) 등 각 산업의 데이터 구조에 최적화된 산업 특화 모델들을 내놓고 있다.
이러한 모델 전략은 엔비디아의 소프트웨어 스택과 긴밀히 연결된다. 네모(NeMo)는 모델 학습과 튜닝을 담당하고, NIM은 이를 API 형태로 배포하며, 텐서RT(TensorRT)는 추론 성능을 극대화한다. 여기에 오픈쉘과 같은 런타임 계층을 결합해 에이전트 AI의 보안과 실행 통제까지 포함한 통합 환경을 완성시켰다. AI 모델, 프레임워크, 배포, 실행까지 전 과정을 단일 플랫폼으로 묶어버린 상태다. 이는 엔비디아가 고민했을 '포스트 GPU'의 결론으로 해석된다.
현재 엔비디아 GPU 종속에서 벗어나기 위해 하이퍼스케일러들은 자체 칩을 개발, 확대시키고 있고 세레브라스(Cerebras), 삼바노바 시스템즈(SambaNova Systems), 포지트론(Positron) 등 대안으로 사용될 수 있는 AI 칩 스타트업이 막대한 투자를 받으며 승승장구하고 있다. 엔비디아 역시 AI 추론 칩 스타트업 그록(Groq)의 기술 사용권을 인수하는 등 포스트 GPU에 대비하고 있지만, 엔비디아의 진정한 포스트 GPU는 그록 칩이 아니라 AI 풀스택 생태계일 수 있다.
박현선 전문기자
댓글
0