구글 딥마인드, AI 에이전트 노리는 6가지 함정 분석…적대적 콘텐츠 위...

[디지털투데이 AI리포터] 구글 딥마인드가 자율형 AI 에이전트를 노리는 적대적 콘텐츠 공격을 6가지 유형으로 분류했다.

일부 시험에서는 공격자가 에이전트를 부분적으로 장악하는 데 최대 86% 성공했다고 4일(이하 현지시간) 블록체인 매체 코인포스트가 전했다.

딥마인드 연구팀은 3월 28일 발표한 논문에서 이런 위협을 ‘AI 에이전트의 함정’으로 규정했다. 인터넷 콘텐츠가 방문한 에이전트를 조작하거나 속이고 악용하도록 설계될 수 있다는 것이다.

분류는 콘텐츠 주입, 의미적 조작, 인지 상태, 행동 제어, 시스템적, 인간 개입형 등 6가지다. 콘텐츠 주입형은 HTML 주석, CSS 비표시 요소, 이미지 메타데이터 등에 텍스트를 숨겨 사람은 못 보지만 에이전트는 읽게 만드는 방식이다. 이 시나리오에서 공격자의 최종 목표 달성률은 낮았지만, 부분 장악 성공률은 최대 86%로 나타났다.

를 유발한다. 인간 개입형은 자동화 편향과 인지 피로를 노려 승인자나 사용자의 오판을 유도한다.

딥마인드는 학습 단계의 적대적 콘텐츠 노출, 추론 단계의 출처 신뢰도 필터링, 이상 행동 감시를 기술 대응책으로 제시했다. 웹 표준 제정, 인용 의무화, 도메인 신뢰도 평가 체계도 함께 제안했다. 에이전트 악용 시 책임을 운영자, 모델 제공자, 도메인 소유자 가운데 누가 질지도 명확히 해야 한다고 밝혔다.

AI리포터