고재준 KTR AI·소프트웨어사업단장 (사진=KTR)
AI 도입이 가속화되는 가운데 신뢰성 확보가 기업의 핵심 과제로 부상하고 있다. 잘못된 정보를 생성하는 '환각 현상'과 보안 사고 등이 주요 걸림돌로 작용하면서 객관적 검증 체계의 필요성이 대두되고 있다.
KTR(한국화학융합시험연구원)은 AI의 특성을 고려해 국내 최초로 국제 표준 기반 AI 인증 체계를 도입했다.
매년 47만건의 시험성적서를 제공하며 기업의 기술 파트너로 자리매김한 고재준 KTR AI·소프트웨어사업단장을 만나 이야기를 들었다.
■ 정부사업부터 해외 진출까지 든든한 '기술 신분증' 역할
KTR은 산업통상자원부 국가기술표준원 산하 한국인정기구(KOLAS)로부터 인정받은 공인 시험기관이다. 의료, 화학, 전자 등 전방위 산업군에 걸친 시험·인증·기술 컨설팅을 수행한다.
고재준 단장은 “KOLAS 성적서는 국제시험기관인정협력체(ILAC)에 가입된 100여 개국에서 인정되는 만큼 기업이 글로벌 표준에 부합하는 기술력을 갖췄음을 증명하는 근거가 된다”라고 말했다.
KTR의 인증은 데이터바우처, 초거대 AI 등 정부지원사업의 가점 요소이며 공공 조달 과정에도 신뢰성을 증명하는 주요 지표로 활용된다.
인증 시연 과정 (사진=KTR)
고 단장은 “기업이 자체적으로 성능을 평가하기보다 제3자 기관이 객관적으로 검증한다는 점에서 대내외적 신뢰도가 높다”라고 설명했다.
■ AI 데이터부터 모델, 서비스까지 다각도로 평가해
KTR의 AI 인증은 국제 표준(ISO/IEC)을 기준으로 한다. 대상은 AI가 적용된 소프트웨어와 제품 전반이다. 기존 GS 인증을 기반으로 AI 알고리즘의 특수성을 반영했다.
고 단장은 “GS 인증은 소프트웨어가 설계된 규칙대로 구동되는지 확인하는 용도라면 AI 인증은 알고리즘과 아키텍처를 기반으로 AI에 최적화된 성능 검증에 포커스가 맞춰져 있다”라고 강조했다.
AI 인증은 정확도(Accuracy)와 정밀도(Precision), 재현율(Recall), F1-Score 등을 측정한다. AI의 정답률과 오탐·미탐 능력을 검증하며 사용자가 AI를 원활히 제어할 수 있는지, 외부 공격에 대비한 보안 역량을 갖췄는지 등을 다각도로 평가한다.
AI 데이터도 대상이다. 국제 표준에 따라 정확성부터 일관성, 복구 가능성, 접근 통제 등을 종합적으로 평가한다.
AI 인증 주요 활용 사례 (사진=KTR)
고 단장은 "단순히 AI가 정답을 맞히는 것을 넘어 산업별 표준이나 법적 규정을 철저히 준수하고 있는지 철저히 평가한다"라며 "특히 예기치 못한 시스템 장애가 발생하더라도 일정 수준 이상의 품질을 유지하며 운영 가능한지 다각도로 검증한다"라고 덧붙였다.
■ 자율주행·로봇 등 '피지컬 AI' 시대… 고위험 분야 안전 검증 전제돼야
KTR은 최근 로봇이나 자율주행처럼 현실 세계에서 작동하는 ‘피지컬 AI’ 의 평가 체계 구축을 위해 연구에 박차를 가하고 있다.
현재 국내 최초로 로봇의 제어 시스템 등에 탑재되는 소프트웨어 설계 적합성에 대한 공인 시험기관으로 지정됐다.
고 단장은 “피지컬 AI는 스마트 팩토리 등 산업 현장이나 일상생활에 직접 투입되기 때문에 작은 오작동이 인명 사고처럼 치명적 피해로 이어질 수 있다"라며 "고위험 AI일수록 이를 예방하기 위한 선제적인 검증이 무엇보다 중요하다”라고 말했다.
현재 산업통상자원부와 협력해 자율주행차와 소프트웨어 정의 차량(SDV) 등 차세대 모빌리티의 신뢰성 확보를 위한 평가 체계를 마련하고 있다.
고 단장은 “KTR은 앞으로도 40개국 180여개 기관과의 파트너십을 통해 기업들이 기술적 신뢰성을 토대로 글로벌에서 활약할 수 있도록 든든한 조력자가 될 것”이라고 밝혔다.
김해원 기자 hwkim@aitimes.com
댓글
0