모델 성능보다 데이터 근거와 통제 구조가 우선
공공·금융·법무처럼 설명 가능성과 감사 대응이 중요한 영역에서 도입 기준 재정의
데이터스트림즈가 에이전트 AI 도입의 성패를 가르는 핵심 변수로 모델 성능보다 데이터 거버넌스와 데이터 아키텍처를 제시했다. 생성형 AI를 넘어 스스로 판단하고 업무를 수행하는 에이전트 AI가 확산되는 국면에서, 이제 기업과 공공기관의 관심은 AI가 얼마나 정교한 답을 내놓느냐보다 그 답이 어떤 데이터에 근거하고 있는지로 이동하고 있다는 진단이다.
데이터스트림즈 이영상 대표
데이터스트림즈는 한국지능정보사회진흥원(NIA)이 3월 26일 서울 사무소에서 연 ‘에이전트 AI 시대 데이터 전략 세미나’에서 이 같은 입장을 밝혔다. 이날 발표는 이영상 데이터스트림즈 대표가 맡았으며, 주제는 ‘AI Governance의 이해와 Data Fabric을 통한 AI Agent 강화 전략’이었다.
이번 세미나는 생성형 AI를 넘어 자율적으로 판단하고 업무를 수행하는 에이전트 AI 시대에 맞춰, AI가 데이터를 활용하는 과정에서 품질과 신뢰성을 어떻게 확보할 것인지 논의하기 위해 마련됐다. 데이터스트림즈는 이 자리에서 대규모언어모델(LLM)의 한계를 단순히 모델 고도화만으로 보완하는 데는 분명한 제약이 있다고 보고, 실제 현장에서는 데이터 체계와 통제 구조를 어떻게 설계하느냐가 더 중요하다고 설명했다.
이 대표는 발표에서 “AI가 얼마나 똑똑한가보다, AI가 어떤 데이터를 기반으로 판단하도록 설계됐는가가 더 중요하다”는 취지로 설명했다. 특히 금액 산정, 법적 고지, 민원 대응처럼 오류 허용 범위가 극히 낮은 업무에서는 확률적으로 답변을 생성하는 LLM만으로는 한계가 있다는 것이다. 이는 AI를 단순 보조 도구가 아니라 실제 업무 시스템으로 투입하려는 조직일수록 더 무겁게 받아들여야 할 문제라는 해석이 가능하다.
데이터스트림즈가 제시한 해법은 LLM이 직접 답을 만들어내기보다, 정답이 존재하는 데이터만 조회하도록 통제하는 데이터 패브릭 기반 구조다. 회사 측 설명에 따르면 이 구조는 메타데이터 기반 데이터 가상화, 데이터 품질 관리, 데이터 계보(Data Lineage), 비즈니스 메타데이터를 결합해 AI가 검증 가능한 데이터만 활용하도록 설계하는 방식이다. 사용자는 자연어로 질의하더라도 실제 응답은 데이터베이스 조회 결과와 그 근거가 되는 SQL을 기반으로 제공돼, 감사 대응과 민원 처리, 법적 검토까지 가능한 형태의 시스템 구현이 가능하다고 회사는 설명했다.
이 대표는 AI 거버넌스를 AI 도입 이후에 덧붙이는 사후 통제 장치가 아니라, 도입 이전부터 설계돼야 할 정책·프로세스 체계로 규정했다. 데이터 품질 역시 단순한 오류 제거를 넘어 AI 학습과 추론에 적합한 일관성을 갖추는 방향으로 관리 기준이 바뀌어야 한다고 밝혔다. 이는 최근 기업들이 AI 도입 속도를 높이면서도 실제 운영 단계에서는 데이터 출처와 책임성 문제로 제동이 걸리는 흐름과도 맥락을 같이한다.
발표에서는 한국도로공사 사례도 언급됐다. 데이터스트림즈는 기존 LLM 기반 질의응답 시스템이 업무 활용 측면에서 한계를 보였던 환경에서, 데이터 거버넌스와 데이터 패브릭 구조를 적용한 뒤 AI가 단발성 응답을 넘어 업무 맥락을 유지하며 활용 가능한 시스템으로 고도화됐다고 설명했다. 이는 공공 영역에서 AI 활용의 평가 기준이 단순한 답변 생성 능력에서 반복 사용 가능한 업무 도구로의 전환 가능성으로 옮겨가고 있음을 시사한다.
정책 제안도 이어졌다. 이 대표는 대기업과 달리 자체 법무·거버넌스 체계를 구축하기 어려운 중소기업을 위해 정부 차원의 ‘국가 AI 컴플라이언스 서비스 시스템’이 필요하다고 주장했다. 이는 기업이 AI 도입 과정에서 준수해야 할 법률과 규정, 윤리 기준을 LLM과 검색증강생성(RAG) 기반으로 쉽게 조회하고 활용할 수 있도록 지원하는 체계를 뜻한다. 에이전트 AI 활용이 확산될수록 기술 도입 지원뿐 아니라 규제 준수와 책임성 확보를 뒷받침할 공공 인프라의 중요성도 함께 커질 수 있다는 문제의식으로 읽힌다.
검증 가능한 데이터와 거버넌스를 기반으로 AI 시스템 운영을 가능하게 하는 엔터프라이즈 데이터 패브릭 아키텍처
이번 발표는 AI 경쟁의 초점이 모델 성능 자체에서 실제 업무에 적용 가능한 신뢰 구조로 재편되고 있음을 시사한다. 특히 공공, 금융, 법무, 민원처럼 설명 가능성과 감사 가능성이 중요한 영역에서는 ‘무엇을 답하느냐’보다 ‘어떤 데이터에 근거해 답했느냐’가 도입 성패를 가를 가능성이 크다. 데이터스트림즈는 이 문제를 데이터 거버넌스와 데이터 패브릭의 결합으로 풀어야 한다는 입장을 제시했다.
연철웅
댓글
0