[테크월드=김승기 기자] 인공지능(AI) 신뢰성이 산업의 핵심 이슈로 부각되면서 관련 시장도 빠르게 형성되고 있다. 다만 현장에서는 개념 정의와 적용 방식에 대한 논의가 병행되며 일정 수준의 혼선도 나타나고 있다는 평가가 나온다.
박지환 씽크포비엘 대표. [사진=씽크포비엘]
지난 7일 씽크포비엘 본사에서 진행된 인터뷰에서 박지환 대표는 “AI 신뢰성에 대한 관심이 빠르게 높아지고 있지만 개념과 범위에 대한 공통된 기준은 아직 정리되는 단계”라고 설명했다.
그는 AI 기본법 시행 이후 시장 변화를 두고 “신뢰성이라는 개념이 다양한 기술 영역과 결합되면서 해석이 확장되고 있다”고 말했다.
신뢰성 개념 확장…“공통 기준 정립 단계”
박 대표는 현재 AI 신뢰성이 하나의 단일 개념으로 정리되기보다는 여러 기술 영역과 연결되며 확장되는 상황이라고 설명했다.
이어 “보안, 테스트, 인증, 성능 등 다양한 요소가 신뢰성과 연결되면서 각 분야에서 접근이 병행되고 있다”고 말했다.
특히 생성형 AI 확산 이후 결과물에 대한 신뢰성 확보 요구가 높아지면서 워터마킹, 추적 기술, 검증 체계 등에 대한 논의도 함께 진행되고 있다고 덧붙였다.
다만 “이러한 개별 기술 요소만으로 신뢰성을 설명하기에는 한계가 있으며 전체 시스템 관점에서 접근할 필요가 있다”고 강조했다.
그는 신뢰(Trust)와 신뢰성(Trustworthiness)을 구분해야 한다며 “신뢰는 개인의 판단이지만 신뢰성은 사회적으로 검증 가능한 기준”이라고 설명했다.
“신뢰는 구조 문제”…기술·검증·인력 결합 필요
박 대표는 신뢰성을 ‘AI 자체에 대한 신뢰’가 아니라 ‘운영과 통제 구조의 문제’로 정의했다.
그는 “AI를 믿는 것이 아니라 적절한 관리 체계가 마련돼 있기 때문에 사용하는 것”이라며 “신뢰는 감정이 아니라 구조와 책임의 문제”라고 설명했다.
이러한 관점에서 씽크포비엘은 기술적 검증 체계 구축에 집중하고 있다. 회사가 개발한 ‘리인(Re:In)’은 데이터 밸런스 기술을 기반으로 AI 학습 데이터의 편향과 분포를 분석해 신뢰성 문제를 사전에 진단하는 도구다.
박 대표는 “AI는 정답이 고정된 시스템이 아니기 때문에 단일 테스트로 신뢰성을 판단할 수 없다”며 “다양한 시나리오 기반 반복 검증 구조가 필요하다”고 말했다.
씽크포비엘은 이와 관련해서 데이터 충실도 진단, 모델 견고성 진단, 운영 보증 지식 체계로 구분해 접근하고 있다고 밝혔다.
데이터 문제도 핵심 요소로 지목됐다. 그는 “AI 신뢰성은 데이터에서 출발한다”며 “데이터 편향과 불균형이 결과에 직접적인 영향을 주기 때문에 데이터 밸런스를 점검하는 과정이 중요하다”고 설명했다.
이어 “검증 단계에서 데이터 분포와 결과 패턴을 함께 분석해야 한다”며 다양한 테스트 시나리오 기반 검증의 필요성을 강조했다.
또 AI 기본법상 고영향 AI 기준과 관련해 “영향의 크기와 위험 관리 수단은 구분해서 접근할 필요가 있다”며 “인간 개입은 위험을 낮추는 요소지만 시스템의 영향 자체를 판단하는 기준은 아니다”라고 말했다.
시장 형성 초기 단계…“해외는 인력·생태계 함께 성장”
AI 신뢰성 시장에 대해서는 성장 가능성을 인정하면서도 산업화 단계로 이어지기 위해서는 기반 구축이 필요하다고 봤다.
제1회 트라이톤 시상식. [사진=김승기 기자]
박 대표는 “산업이 형성되기 위해서는 전문 인력이 함께 성장해야 한다”며 “현재는 초기 단계로 인력과 서비스 체계가 동시에 구축될 필요가 있다”고 말했다.
특히 해외에서는 이미 전문 인력과 기업이 함께 성장하는 구조가 형성되고 있다고 설명했다. 중국이나 영국 등은 AI 신뢰성 관련 기업과 인력 기반이 빠르게 확대되고 있으며 핀란드나 태국 등 일부 국가는 국가 차원에서 전문 인력 양성 체계를 구축하고 있다는 것이다.
반면 국내는 아직 초기 단계로 전문 인력과 산업 생태계 측면에서 격차가 존재한다고 평가했다.
이와 관련해 씽크포비엘은 AI 신뢰성 ‘트라이톤(Triton)’으로 멘토링을 통한 실무 기반 검증 경험을 제공하고 민간 자격인 ‘CTAP’을 통해 전문 인력 양성과 평가 체계 구축을 병행하고 있다.
박 대표는 “인증이나 시험만으로 신뢰성이 확보되는 것은 아니지만 산업이 형성되기 위해서는 인력과 평가 체계가 함께 구축될 필요가 있다”고 말했다.
AI 신뢰성은 향후 AI 산업 확산 과정에서 중요한 기준으로 자리 잡을 가능성이 크다. 다만 개념 정립과 인력, 시장 구조가 함께 구축되지 않을 경우 적용 과정에서의 혼선이 이어질 수 있다는 분석도 나온다.
따라서 신뢰성이 산업의 핵심 기반으로 자리 잡을 수 있을지는 향후 정책과 시장 설계에 달려 있을 전망이다.
회원가입 후 이용바랍니다.
댓글
0