[엔터프라이즈 SLM②] 실무 현장으로 확산 ··· '에이전틱 워크플로우...

플랫폼 내 통합 ML옵스 경쟁 가속 ··· 데이터 출처 증명이 상용화 가른다

산업 특화 모델로 실전 AX 성과 입증 ··· RAG·파인튜닝 역할 분담이 핵심

교사 모델·인프라 풀스택으로 소버린 AI 주도

[데이터넷] 기업의 AI 도입을 가로막던 ‘비용 부담’, ‘보안 리스크’, ‘전문 지식 부재’를 해결하기 위해 ‘소형언어모델(SLM)’이 부상하고 있다. SLM은 모델 크기를 최적화하면서 특정 산업에 특화된 정교한 성능을 구현할 수 있어 범용 모델의 한계를 극복하는 실무형 대안으로 평가받는다. 데이터가 기업의 경쟁력이 되는 시대, 스스로 학습하고 진화하는 ‘엔터프라이즈 맞춤형 SLM’이 비즈니스 혁신의 새로운 표준이 되고 있다. <편집자>

데이터브릭스는 AI 모델의 성능이 결국 ‘데이터 품질’과 직결된다는 철학 아래, 엔터프라이즈 맞춤형 AI 훈련과 운영(MLOps)을 하나의 플랫폼으로 통합한 ‘모자이크 AI(Mosaic AI)’를 전면에 내세우고 있다.

특정 벤더에 종속되지 않는 오픈소스 환경을 지향하는 데이터브릭스는 기업들이 외부 API에 의존하지 않고 개방형 SLM을 자사의 독점 데이터로 쉽고 저렴하게 파인튜닝할 수 있는 엔드투엔드 툴체인을 제공한다. 특히 통합 데이터 거버넌스 솔루션인 ‘유니티 카탈로그(Unity Catalog)’를 통해 정형 데이터부터 수백만 건의 비정형 문서 리소스, 완성된 AI 모델까지 전사적 자산의 접근 권한과 출처(Lineage)를 일관되게 관리한다. 이를 통해 기업은 AI 모델이 어떤 데이터를 학습했는지 투명하게 증명할 수 있어, 컴플라이언스가 엄격한 금융 및 의료 산업에서도 자체 SLM 기반의 서비스를 상용화할 수 있다.

스노우플레이크는 ‘데이터 이동 제로(Zero Data Movement)’ 철학을 바탕으로, 데이터 웨어하우스 내에서 즉각적인 AI 분석과 SLM 구동이 가능한 완전 관리형 서비스 ‘코텍스 AI(Cortex AI)’를 내세웠다.

특히 기업용 비즈니스 워크로드에 최적화된 고성능 오픈소스 LLM인 ‘아크틱(Arctic)’을 직접 개발해 아파치 2.0 라이선스로 공개함으로써 생태계 주도권을 쥐기 위한 과감한 승부수를 띄웠다. 기업 고객은 복잡한 머신러닝 인프라를 별도로 구축할 필요 없이, 기존에 사용하던 SQL이나 파이썬 코드 몇 줄만으로 스노우플레이크 환경 내에 안전하게 저장된 방대한 데이터를 활용해 즉시 SLM을 파인튜닝하고 애플리케이션을 개발할 수 있다.

엔터프라이즈 맞춤형 AI 시장 정조준

LG CNS는 기업 전용 에이전틱 AI 플랫폼인 ‘에이전틱웍스’를 중심으로 엔터프라이즈 프라이빗 AI 생태계를 확장하고 있다. 에이전틱웍스는 ▲리파이너 ▲날리지 레이크 ▲라우터 ▲빌더 ▲인텔리전스 허브 ▲스튜디오 등 6가지 핵심 모듈을 바탕으로 모델 선택부터 개발 및 운영, 검색까지 이르는 과정을 통해 다양한 비즈니스 과제를 해결한다.

특히 금융, 공공, 제조 등 보안에 민감한 산업군을 겨냥해 외부 API 의존도를 낮추고 기업 데이터 주권을 강화하는 맞춤형 아키텍처를 제공하는 것이 핵심이다.

차별점은 RAG와 파인튜닝의 정교한 역할 분담에 있다. 수십만 페이지에 달하는 사내 문서를 지식화하는 ‘날리지 레이크(Knowledge Lake)’를 기반으로, 최신성이 요구되는 정보는 RAG를 통해 즉각 호출해 환각 현상을 억제한다. 동시에 회사 고유의 용어, 판단 기준, 결재 프로세스처럼 일관되게 반영되어야 하는 정적인 지식은 파인튜닝을 적용해 모델 자체에 내재화한다.

이를 통해 매번 복잡한 프롬프트를 입력하지 않아도 기업 맥락에 맞는 일관된 답변을 도출하도록 설계했다. 아울러 LG AI연구원의 엑사원(EXAONE)뿐만 아니라 챗GPT, 제미나이 등 다양한 모델을 고객 목적에 맞게 조합하는 멀티 LLM 체계를 지원한다.

제조 및 제약 분야에서는 종근당에 ‘에이전틱웍스’를 적용해 연간 품질평가 보고서(APQR) 작성 업무를 자동화했는데, 약 30개의 AI 에이전트가 데이터 수집부터 검증, 문서 작성까지 자율적으로 수행하도록 시스템을 구축한 결과 기존 보고서 작성 시간을 90% 이상 획기적으로 단축했다.

공공·금융권에서도 대규모 AX 프로젝트를 연이어 수행하며 AI 역량을 입증했다. 특히 최근 한국은행과 국내 최초로 ‘에이전틱 AI 기반 디지털화폐 자동결제 시스템’ 실증을 진행했다. ‘프로젝트 한강’의 일환으로 진행된 이 실증은 예금토큰이 유통되는 디지털화폐 플랫폼을 활용해, AI가 상거래 전 과정을 자율적으로 수행하는 차세대 결제 시스템이다. 시스템에 탑재된 에이전틱 AI가 사용자에게 권한을 위임받아 구매를 원하는 물품이나 콘텐츠를 자동으로 탐색·비교하고 디지털화폐로 결제까지 완수하는 지능형 아키텍처를 선보였다.

LG CNS 에이전틱웍스 날리지 레이크

자체 개발 파운데이션 모델 가속화

SK텔레콤은 자체 개발한 파운데이션 모델 ‘에이닷엑스(A.X)’를 기반으로 글로벌 수준의 소버린 AI 인프라 생태계를 구축하고 있다. 특히 최근 국내 최초로 5190억(519B) 매개변수 규모의 초거대 AI 모델 ‘A.X K1’을 전격 공개하며 엔터프라이즈 맞춤형 AI 생태계 구축에 앞장서고 있다.

이 거대 모델은 개별 기업에 직접 구축되는 것이 아니라, 각 산업 현장에 필요한 ‘맞춤형 소형 모델(SLM)’에 전문 지식을 주입하고 성능을 최적화하는 일종의 ‘교사 모델(Teacher Model)’이자 디지털 사회간접자본(SOC) 역할을 수행한다.

이를 위해 SK텔레콤은 리벨리온, 크래프톤, 포티투닷, 라이너 등 8개 기관으로 구성된 ‘정예팀’을 꾸려 AI 반도체부터 데이터센터, 모델, 서비스에 이르는 전체 밸류체인을 독자 기술로 아우르는 ‘풀스택 소버린 AI’를 완성했다.

기업 고객들은 SK텔레콤의 오픈소스 SLM을 기반으로 외산 빅테크에 종속되지 않는 비용 효율적인 맞춤형 훈련 환경을 턴키로 제공받게 된다. SK텔레콤은 고난도 코딩과 에이전트 업무 수행이 가능한 제조·산업용 버티컬 솔루션까지 통합 지원하며 즉각적으로 비즈니스 가치를 창출하는 실용적 AI 패러다임을 선도한다는 계획이다.

KT는 최신 AI 기술이 집약된 맞춤형 모델 ‘믿:음(Mi:dm) K 2.0 Base’를 앞세워 B2B 디지털 전환(DX) 생태계를 적극 공략하고 있다. 기업이 비즈니스 목적에 맞게 모델을 즉시 파인튜닝할 수 있는 유연성을 제공하며, 검증된 글로벌 오픈소스 생태계와의 호환성을 극대화한 하이브리드 아키텍처를 지원한다.

특히 컴퓨팅 자원을 대여해주는 ‘K-GPUaaS’ 플랫폼을 연계하며 기업 자체 SLM의 개발부터 배포까지 전 과정을 원스톱으로 제공한다. KT는 단순한 인프라 제공을 넘어 실질적인 업무 효율 향상에 중점을 두고 있다. 실제로 자사의 100번 고객센터에 상담 요약 및 최적 답변 솔루션을 적용해 상담 시간을 크게 단축했으며, 대법원의 ‘재판업무 지원 AI’를 구축해 판결문과 법령 검색은 물론 쟁점 자동 추출 및 요약을 지원함으로써 사법행정의 정확성과 효율성을 향상시키는 성과를 내고 있다.

규모보다 ROI 입증이 생존 지표

맞춤형 SLM 시대의 도래는 AI 시장이 화려한 ‘기술 과시’ 단계를 지나 실질적인 ‘비즈니스 문제 해결’이라는 성숙기로 접어들었음을 시사한다. 자사가 보유한 독점적 데이터를 오픈소스 또는 오픈웨이트 기반 모델과 가장 안전하고 정교하게 결합해, 인간의 반복 노동을 혁신적으로 줄이고 구체적인 비용 절감과 생산성 향상이라는 실질적 지표(ROI)를 증명하는 기업이 차세대 비즈니스의 주도권을 쥐게 될 전망이다.

Tag