최재식 "설명 못 하는 AI? 결국 아무도 안 쓴다" [SFF 인터뷰]

[조문희 기자 moonh@sisajournal.com]

[인터뷰] 최재식 KAIST AI대학원 교수

AI의 결정에 '왜'를 묻다…"한국, AI 신뢰성 분야 글로벌 리딩 국가"

인공지능(AI)이 의사결정을 대신하는 시대. 하지만 AI가 내린 결정의 '이유'를 알 수 없다면 어떨까. AI가 내 대출 심사를 거절하고 나를 채용 면접에서 탈락시켰는데, 그 이유를 납득할 수 없다면 AI의 사회적 수용성은 떨어질 수밖에 없다. 아무리 성능이 뛰어난 AI라도 치명적인 오작동을 일으키거나 사실과 다른 정보를 그럴듯하게 지어내는 '환각 현상(Hallucination)'을 보일 수 있기 때문이다.

이 질문에 답하는 기술이 '설명가능 인공지능(XAI)'이다. 복잡한 AI의 연산 과정을 투명하게 규명하고, 그 작동 원리를 논리적으로 해석하는 기술이다. 국내에서 이 분야를 가장 오래, 가장 깊이 연구해 온 학자가 최재식 KAIST AI대학원 교수다. 최 교수는 구글코리아 '책임감 있는 AI포럼' 의장을 맡아 글로벌 빅테크와 한국의 AI 정책 논의를 잇는 가교 역할을 하는 한편, XAI 스타트업 '인이지'를 창업해 기술의 현장 적용에도 앞장서고 있다. AI 신뢰성과 주권을 둘러싼 각국의 입법 경쟁이 본격화하는 지금, 그는 무엇을 가장 중요하게 보고 있을까. 4일 최 교수의 연구실에서 그를 만나 이야기를 들었다. 다음은 일문일답.