[AI & 퍼스펙티브] 닫힌 망 안의 지능, 폐쇄망 AI의 조건

인공지능(AI)이 이제 우리 일상 곳곳에 깊숙이 스며들고 있다. 기술의 발전 속도가 그 어느 때보다 빠른 지금, AI에 대한 이해는 선택이 아닌 필수가 됐다. 이에 발맞춰 커뮤니케이션북스는 2024년부터 AI문고를 통해 교육, 의료, 산업, 사회, 예술, 철학, 국방, 인문 등 전 분야를 아우르는 AI 담론을 폭넓게 조명해왔다. AI문고는 2026년 4월 1일 현재 742종에 이르렀으며, 올해 10월말까지 1000종 발간을 목표로 하고 있다. 특히 AI 기술의 핵심 이론부터 산업계 쟁점, 일상의 변화까지 다각도로 다루면서 학계와 업계의 주목을 받았다. 또한 AI문고 저자들은 ‘AI 3대 강국 실현’을 위한 공동 성명서를 발표하며 사회적 책임을 강조하기도 했다. AI가 단순한 기술 혁신을 넘어 인간의 존엄과 지속가능한 미래로 이어지기 위해선 어떤 가치와 기준이 필요할까. 투데이신문은 AI문고 저자들이 제시하는 ‘지속가능한 AI 사회’를 향한 제언을 독자들에게 전한다.

공공기관과 국방, 에너지, 제조, 연구시설 같은 곳은 오래전부터 바깥과 단절된 환경에서 버티고 움직이는 법을 익혀왔다. 정보는 쉽게 새면 안 됐고, 시스템은 함부로 열리면 안 됐다. 그래서 인터넷을 닫았다. 문을 잠그듯 망을 닫은 것이다.

문제는 그다음부터다. 문을 잠그면 도둑은 막을 수 있다. 하지만 사람의 발걸음까지 느려질 수 있다. 필요한 문서를 하나 찾는 데 시간이 걸리고, 기준과 절차를 다시 확인하는 일도 길어진다. 급할수록 더 답답해진다. 바로 이 지점에서 AI에 대한 수요가 커진다. 닫힌 공간 안에서도 빨리 찾고, 빨리 정리하고, 빨리 이해할 수 있는 도구가 필요해진 것이다.

질문은 단순하다. 폐쇄망에서도 AI를 쓸 수 있을까. 답은 가능하다. 다만 아무 방식으로나 들여와서는 안 된다. 바깥에서 편리하게 쓰던 서비스를 그대로 안으로 끌고 들어오는 방식은 맞지 않는다. 폐쇄망의 AI는 출발선부터 다르다. 여기서 중요한 것은 얼마나 화려하게 답하느냐가 아니다. 얼마나 안전하게, 얼마나 믿을 수 있게 도와주느냐가 더 중요하다.

쉽게 말하면 이렇다. 개방형 AI가 넓은 바다를 다니는 큰 배라면, 폐쇄망 AI는 제한된 수로를 조심스럽게 오가는 안내선에 가깝다. 속도만으로 평가할 수 없다. 어디까지 가도 되는지, 무엇을 실어도 되는지, 어떤 항로로 움직여야 하는지가 먼저 정해져야 한다. 폐쇄망 AI도 마찬가지다. 많이 아는 것보다 선을 넘지 않는 것이 먼저다.

첫 번째 조건은 바깥에 기대지 않는 일이다. 질문을 처리하고, 자료를 찾고, 기록을 남기는 일까지 모두 내부에서 돌아가야 한다. 바깥 서버에 물어보는 순간, 닫힌 망의 의미는 약해진다. 겉으로는 잠긴 문처럼 보여도, 실제로는 작은 창문 하나를 열어둔 셈이기 때문이다. 폐쇄망 AI는 그 창문마저 함부로 열지 않는 구조여야 한다.

두 번째 조건은 말을 잘하는 능력보다, 근거를 짚어주는 능력이다. 폐쇄망에서 중요한 것은 그럴듯한 대답이 아니다. 어디에서 그 답이 나왔는지 확인할 수 있어야 한다. 어떤 문서를 참고했는지, 어느 부분을 바탕으로 설명했는지 보여줘야 한다. 그래야 사람이 안심하고 쓸 수 있다. 지도 없이 길을 알려주는 사람보다, 손가락으로 정확한 표지판을 짚어주는 사람이 더 믿음직한 것과 같다.

세 번째 조건은 자동화보다 통제다. AI가 내부 자료만 보고 답하더라도 틀릴 수 있다. 내용을 지나치게 해석할 수도 있고, 문맥을 엉뚱하게 엮을 수도 있다. 그래서 마지막 판단은 사람이 쥐고 있어야 한다. AI는 앞에서 길을 비추는 손전등일 수는 있어도, 운전대를 대신 잡는 존재가 돼서는 안 된다. 밝게 비추는 일과 방향을 결정하는 일은 다르기 때문이다.

여기서 함께 필요한 것이 권한의 구분이다. 누구나 같은 자료를 보고 같은 답을 받아서는 곤란한 경우가 많다. 어떤 사람은 전체를 봐야 하고, 어떤 사람은 일부만 봐야 한다. 같은 건물 안에서도 출입 가능한 층이 다르듯, 폐쇄망 AI도 사용자에 따라 볼 수 있는 정보의 범위를 나눠야 한다. 누가 무엇을 물었는지, 어떤 자료를 참고했는지도 남겨야 한다. 흔적이 남아야 책임도 남는다.

네 번째 조건은 욕심을 줄이는 일이다. 모든 업무를 AI로 바꾸려 하면 오히려 실패할 수 있다. 폐쇄망에서 먼저 효과를 보는 영역은 대체로 정해져 있다. 규정을 찾는 일, 긴 문서를 짧게 정리하는 일, 사고 대응 절차를 안내하는 일, 반복 보고서의 초안을 잡아주는 일이다. 이런 일은 마치 서류 더미를 빠르게 훑어주는 유능한 조수와 비슷하다. 반면 최종 결정을 내리거나 위험한 제어를 맡기는 일은 아직 다른 차원의 문제다. 폐쇄망 AI는 만능 열쇠가 아니라, 잘 맞는 자물쇠에 먼저 써야 하는 열쇠다.

많은 조직이 놓치는 부분은 따로 있다. AI보다 먼저 문서가 정리돼 있어야 한다는 점이다. 낡은 자료와 최신 기준이 뒤섞여 있고, 같은 내용이 여러 버전으로 흩어져 있으면 AI도 흔들린다. 물이 맑아야 바닥이 보이듯, 자료가 정돈되어야 답도 또렷해진다. 결국 폐쇄망 AI의 품질은 모델 하나의 성능만으로 정해지지 않는다. 그 조직이 지식을 얼마나 잘 정리해 두었는가에 따라 크게 달라진다.

운영 원칙도 분명해야 한다. AI의 답은 참고용이어야 한다. 중요한 업무에는 사람의 검토가 따라야 한다. 입력과 출력은 모두 보안 기준 안에서 관리되어야 한다. 사용자 교육도 빠질 수 없다. 같은 도구를 쥐어줘도 누군가는 정확하게 쓰고, 누군가는 헛돌게 쓴다. 결국 기술보다 먼저 필요한 것은 사용 방식에 대한 합의다.

앞으로 폐쇄망 AI의 중요성은 더 커질 가능성이 있다. 외부와 연결되지 않은 조직일수록 내부 지식을 얼마나 빨리 꺼내 쓰느냐가 경쟁력이 되기 때문이다. 필요한 정보를 찾지 못해 망설이는 조직은 늦어진다. 반대로 안에 있는 지식을 빨리 연결하고 설명할 수 있는 조직은 닫힌 환경에서도 민첩하게 움직인다. 닫혀 있다고 해서 느려야 하는 것은 아니다. 정리된 지능이 들어오면, 닫힌 망도 생각보다 넓게 쓸 수 있다.

폐쇄망 AI의 본질은 화려한 기술 도입이 아니다. 닫힌 공간 안에 작은 도서관 사서를 한 명 더 들이는 일에 가깝다. 다만 그 사서는 아무 책이나 꺼내주지 않고, 허락된 자료 안에서만 움직이며, 무엇을 근거로 답했는지도 분명히 보여줘야 한다. 그 조건이 갖춰질 때, 폐쇄망 AI는 단순한 유행어를 넘어 실제로 쓸 수 있는 도구가 된다. 닫힌 망 안의 지능은 그렇게 만들어진다.

△ 이기호 박사

필자 소개

극동대학교 인공지능보안학과 박사로 정보보호, 폐쇄망 환경의 로컬 LLM·문서 RAG, 인공지능 윤리 정렬, 국방·스마트그리드 분야 AI 보안 적용을 중심으로 연구하고 있다. 관련 주제로 KCI·SCIE급 학술지와 국내 학술대회에서 대학 정보보호 전략, 폐쇄망 스마트그리드용 LLM 기반 문서 검색 시스템, LLM·SLM의 윤리적 응답 특성 비교 등을 다룬 논문을 발표하며 우수 논문상을 수상했다. 최근에는 커뮤니케이션북스 ‘인공지능총서’의 집필진으로 활동하며 『폐쇄망 AI』를 출간했다.