구글 제미나이로 생성한 이미지
[아이티데일리] AI 에이전트가 확산하자 이로 인한 보안 위협을 막기 위한 대응이 강화되고 있다. 보안 전문기업뿐 아니라 AI 서비스를 제공하는 글로벌 기업도 움직이는 추세다. 마이크로소프트(MS)는 AI 에이전트 관리 플랫폼을 선보였으며, 오픈AI는 ‘FIDO 얼라이언스’에 가입하며 에이전트 전용 인증 체계 구현에 한발 다가섰다.
11일 보안업계에 따르면 MS, 오픈AI 등 글로벌 빅테크는 AI 에이전트와 관련된 보안 리스크 통제를 위한 기술 개발에 나섰다. AI 에이전트에 관한 보안 리스크는 커져 가고 있다. AI 에이전트는 실제 업무 수행을 위해 여러 접근 권한과 자격 증명을 직원으로부터 위임받는다. 이를 통해 업무 자동화가 가능하지만 한편으로는 보안상 취약점을 만드는 원인이 되고 있다.
AI 에이전트로 인한 보안 사고는 전 세계에서 나타나고 있다. 메타의 초지능연구소에서 안전 연구를 담당하는 서머 유(Summer Yue) 디렉터는 지난 2월 오픈클로(Openclaw) AI 에이전트가 이메일 200통을 삭제했다고 엑스(X, 구 트위터)에 밝혔다. 그는 오픈클로에 메일함 정리를 맡겼는데 에이전트는 삭제 전 확인 절차를 거치라는 지시를 무시하고 이메일을 무단 삭제 조치했다.
에이전트로 인한 리스크는 커지는 데 반해 기업의 대응 수준은 아직 부족하다. MS가 지난 1월 발표한 ‘데이터 보안 지수 (Date Security Index) 2026’에 따르면 응답한 조직 중 47%만이 특정 생성형 AI에 관한 보안 제어를 구현했다고 답했다. 또 같은 조사에서 29%는 업무에 승인되지 않은 AI 에이전트를 사용하고 있다고 응답했다.
이에 글로벌 빅테크는 AI 에이전트가 유발하는 보안 위협을 관리·통제하기 위해 노력하고 있다. 일례로 MS는 이달 7일 AI 에이전트 관제 플랫폼 ‘에이전트 365’를 출시했다. 에이전트 365는 기존 보안 체계를 유지하면서도 MS와 관련 파트너사가 제공하는 에이전트를 통합 관리할 수 있도록 지원한다.
MS가 강조한 기능은 ‘섀도(Shadow)’ 에이전트 탐지다. 섀도 에이전트는 조직이나 시스템이 통제하는 영역 밖에서 동작하는 에이전트를 의미한다. 직원들이 회사에서 제공하거나 승인하는 제품 외에 다른 솔루션을 사용하면서 만들어지는데 여기서 조직이 알지 못하는 사이 민감 데이터가 유출되는 문제가 발생할 수 있다.
MS는 에이전트 365와 인튠(Intune), 디펜더(Defender) 등 엔드포인트 보안 솔루션을 연계해 로컬 및 클라우드 환경에 있는 에이전트를 식별한다. 관리되지 않는 에이전트가 발견되면 차단을 비롯한 통제 조치가 가능하다. 특히 오픈클로, 깃허브 코파일럿, 클로드 코드 등 다양한 AI 에이전트 도구를 제어 및 관리할 수 있다.
MS가 플랫폼에 주목한다면 오픈AI는 인증 체계에 집중하고 있다. 오픈AI는 최근 글로벌 표준 기구인 FIDO 얼라이언스에 합류했다. ‘FIDO(Fast Identity Online)’는 생체인식 등으로 비밀번호 없이 인증하는 기술 표준이며 FIDO 얼라이언스는 이를 확립하고 발전시키고자 2012년 출범한 표준화 기구다.
오픈AI는 소셜 미디어를 통해 “에이전틱 AI를 위한 인증 기술을 발전시키기 위해 FIDO에 합류했다”며 “AI 에이전트가 사람을 대신해 행동하기 시작함에 따라 에이전트가 신뢰와 검증을 바탕으로 사용자 의도에 맞게 관리되도록 보장하려면 안전한 신원 프레임워크가 필수”라고 밝혔다.
관계자들은 오픈AI의 FIDO 얼라이언스 합류를 두고 에이전트 보안 체계를 선점하기 위한 포석으로 풀이했다. 한 보안업계 관계자는 “FIDO 얼라이언스에 가입하자마자 이사회에 합류한 점은 이례적”이라며 “오픈AI가 에이전트 워크플로에 인증 체계를 구현하는 등 보안 측면에서 앞서나가기 위해 힘쓰는 것으로 보인다”고 말했다.
한편 FIDO 얼라이언스 자체적으로도 신뢰할 수 있는 AI 에이전트를 위한 인증 표준 개발에 착수했다. 이를 위해 신설된 에이전틱 인증 기술 워킹그룹에는 오픈AI를 비롯해 구글, CVS헬스가 의장사로 참여한다. 이들 기업은 구글 ‘에이전트 결제 프로토콜(AP2)와 마스터카드의 ’검증 가능한 의도‘ 프레임워크를 기반으로 에이전트 인증 강화 기술을 개발할 예정이다.
댓글
0