금보원, 하반기 안전성 평가 시범 실시
삼성생명, 6월 전담 조직 신설
카카오뱅크, 이중 검증 체계 가동
박상원 금융보안원장이 13일 서울 여의도 금융투자협회에서 열린 '금융권 AI 활용 및 안전성·신뢰성 강화 세미나'에서 개회사를 하고 있다. (사진=홍정민)
금융권이 단순 보조 도구를 넘어 스스로 문제를 해결하는 에이전트 인공지능(AI) 시대로 진입하면서 금융당국과 주요 금융사들이 AI의 신뢰성 및 안전성 확보를 위한 거버넌스 구축에 속도를 내고 있다.
금융보안원(금보원)이 올 하반기부터 AI 안전성 평가를 시범 실시하기로 한 가운데 삼성생명과 카카오뱅크 등은 전담 조직 신설과 독자적 가드레일 시스템을 통해 실무 차원의 방어벽 구축에 나섰다.
박상원 금융보안원장은 13일 서울 여의도 금융투자협회에서 열린 '금융권 AI 활용 및 안전성·신뢰성 강화 세미나'에서 "금융의 본질은 신뢰에 있으며 아무리 뛰어난 기술도 안전성이 뒷받침되지 않으면 사상누각"이라고 강조했다. 금보원은 AI의 정교한 거짓 답변과 민감 정보 노출 등 이상 행동을 방지하기 위해 금융권 특화 AI 안전성 평가 프레임워크를 개발, 올해 하반기부터 주요 금융회사를 대상으로 시범 평가를 실시할 계획이다.
축사에 나선 이종오 금융감독원 부원장보는 "AI 혁신과 보안 전략을 별개로 보지 말고 하나의 로드맵으로 통합해야 한다"며 "최고 AI책임자(CAIO)와 최고정보보안책임자(CISO)가함께 참여하는 AI 리스크 거버넌스 위원회를 설치하고 AI 도입 계획과 보안 대응 계획이 동시에 논의되는 체계를 갖추어야 한다"고 당부했다.
이상완 삼성생명 파트장이 금융회사의 AI 혁신 및 안전성·신뢰성 강화사례에 대해 발표하고 있다. (사진=홍정민)
삼성생명은 최근 보안 정책의 패러다임을 무조건적 차단에서 안전한 활용 환경 제공으로 선회했다. 보안 부서의 승인 없이 임의로 AI를 사용하는 섀도우 AI 현상이 확산됨에 따라 삼성생명은 이를 무조건 금지하기보다 사내 보안 가이드라인 준수를 전제로 활용을 허용하는 양성화 전략을 택했다.
이상완 삼성생명 파트장은 데이터의 성격에 따라 4단계 분류 체계를 적용하고 있다고 밝혔다. 데이터의 60~70%를 차지하는 대외비와 5% 내외의 기밀·인비 문서는 기본적으로 외부 전송이 차단된다. 다만 기밀 문서의 경우 업무상 불가피할 때만 부서장 승인과 보안부서의 합의를 거치는 엄격한 예외 절차를 둔다. 반면 전체 데이터의 10~20%인 일반 문서는 별도 승인 없이 활용할 수 있게 하여 업무 효율성을 높였다.
보안 조직의 변화도 예고했다. 삼성생명은 기존 IT 보안 조직만으로는 AI 대응에 한계가 있다는 판단하에 Security for AI(AI를 위한 보안)와 AI for Security(보안을 위한 AI)를 전담할 특화 조직 신설을 검토 중이다. 이 파트장은 "올해를 보안 취약점 제로화의 원년으로 삼고 제로 트러스트 기반 업무 체계로 전환할 것"이라고 덧붙였다.
조용형 카카오뱅크 팀장이 금융회사의 AI 혁신 및 안전성·신뢰성 강화사례에 대해 발표하고 있다. (사진=홍정민)
카카오뱅크는 생성형 AI의 안전한 도입을 위해 독자적인 보안 검증 체계를 공유했다. 카카오뱅크는 프롬프트 인젝션 등 LLM 특화 공격을 방어하기 위해 입력과 출력 단계 모두를 실시간 모니터링하는 가드레일 시스템을 운용 중이다.
특히 카카오뱅크는 AI의 추론 결과가 금융 거래로 연결될 때 발생할 수 있는 리스크에 주목했다. 조용형 카카오뱅크 팀장은 "AI가 특정 함수를 호출할 때 비즈니스 로직 상의 권한 검증 등 전통적 보안 설계를 결합해 안전성을 높이고 있다"고 설명했다. 다만 "정교한 멀티턴 공격에 대응하기 위한 가드레일 고도화에는 막대한 GPU 리소스가 필요하지만 망 분리 규제 등 환경적 제약으로 인해 동적 자원 확보에 한계가 있다"고 언급했다.
네이버클라우드는 국내 금융 환경에 최적화된 소버린(Sovereign) AI의 중요성을 역설했다. 소버린 AI란 국가의 문화적 맥락과 법적 규제를 반영한 독립적 AI 체계를 뜻한다. 유경범 네이버클라우드 상무는 "글로벌 빅테크 모델과 달리 한국어와 국내 금융 규제에 최적화된 네이버 자체 LLM 모델인 하이퍼클로바X는 데이터 유출 우려 없는 데이터 주권 확보의 핵심"이라고 말했다.
실제 성공 사례로 한국은행과의 협업이 제시됐다. 유 상무는 "네이버클라우드는 한국은행이 수십 년간 축적한 방대한 경제 조사 자료를 하이퍼클로바X에 학습시켜 복잡한 통계 분석과 보고서 작성을 지원하는 금융 경제 특화 AI를 구축하고 있다"며 "이는 국가 중앙은행의 민감한 데이터를 처리할 수 있을 만큼 국산 AI의 보안성과 신뢰성이 검증된 결과로 볼 수 있다"고 설명했다.
댓글
0