양종헌 S2W 오펜시브부문장
[디지털투데이 황치규 기자]빅데이터 분석 인공지능(AI) 기업 에스투더블유(S2W)가 15일 성남 판교 소재 본사에서 ‘AI 시대의 새로운 보안 전략: 실사례로 알아보는 대응책’을 주제로 고객사 대상 프라이빗 세미나를 진행했다.
이번 행사에서 양종헌 S2W 오펜시브부문장은 △입력 조작(Input Manipulation) △무결성 침해(Integrity Compromise) △에이전트 연계(Agent Interaction) △합성 신원(Synthetic Identity) 등 AI 특화 공격 방식과 실사례 분석을 통해 도출한 시사점 등을 소개하며, “기존 보안이 시스템 결함(System Bug)을 막는 것이었다면 AI 보안의 핵심은 ‘인지적 논리(Cognitive Logic)’ 허점을 방어하는 데 있다”라고 강조했다.
이어 ‘라케라 간달프(Lakera Gandalf)’와 ‘프롬프트 에어라인(Prompt Airlines)’ 등 실제 시나리오에 기반한 CTF(Capture The Flag)와 워게임(War Game) 등을 예로 들어 주요 AI 공격 기법과 프롬프트 예시, 취약점 패턴 등을 설명하고, AI 및 LLM 특화 보안 사고가 비즈니스에 미칠 수 있는 영향도에 대한 분석 결과를 공유했다.
AI 시대에 준수해야 할 보안 원칙에 대한 설명도 이어졌다. 양 부문장은 △비사용(효용보다 위험이 큰 영역에선 AI 비적용) △데이터 최소화(컨텍스트 내 민감 정보 불포함) △최소 권한 및 격리(AI 에이전트의 역할과 도구 접근 권한 등 세분화)를 제시하며, “다만 가드레일 우회 가능성은 상존하기 때문에 완벽한 방어란 불가하므로, 차단 중심 사고에서 벗어나 실시간 탐지·대응 체계를 내재화하고 모의해킹을 수시로 실시하며 취약점을 지속 관리하는 방식이 현실적”이라고 말했다.
S2W는 AI에 대해 달라진 보안 환경을 감안해 AI 기술과 화이트해커 분석력을 결합한 모의해킹 서비스를 제공하고 있다. 먼저 자체 AI 도구를 활용해 공격표면 탐지 및 1차 취약점 검증에 소요되는 시간을 단축하고, 실제 공격자들이 활용하는 상용 도구를 이용해 AI 스캔 사각지대를 보완하며 탐지된 취약점의 유효성을 이중 확인한다는게 회사측 설명이다.
양 부문장은 “AI를 활용한 보안 목표는 우회 시도를 신속하게 탐지해 정책을 지속적으로 업데이트하는 동적 방어체계를 구축함으로써 공격자 공격 비용과 포기 가능성을 높이는 데 있다”며 “향후에도 공격자 관점에서 취약점 발굴과 시나리오 검증을 수행하는 오펜시브 연구를 고도화하며, AI 시대에 불안감을 해소할 수 있는 액션 아이템을 제공하는 데 주력할 것”이라고 말했다.
댓글
0