송경희 위원장. 개인정보보호위원회
개인정보보호위원회가 최근 빠르게 확산하고 있는 에이전틱 AI의 기술 특성과 개인정보 처리 위험을 점검하기 위한 논의에 본격 착수했다. 목표를 세우고 실행까지 자율적으로 수행하는 에이전틱 AI가 시장의 주목을 받는 가운데, 개인정보 처리 환경 역시 이전과는 다른 양상으로 바뀌고 있어 이에 대한 선제 대응 필요성이 커지고 있기 때문이다.
개인정보보호위원회는 3월 12일 정부서울청사에서 ‘에이전틱 AI’를 주제로 브라운백 회의를 열었다고 밝혔다. 이번 회의는 최신 기술 흐름을 이해하고, 에이전틱 AI 환경에서 발생할 수 있는 프라이버시 이슈를 조기에 발굴해 향후 정책 수립의 기초를 마련하기 위해 진행됐다. 브라운백 회의는 점심시간을 활용해 조직 내 지식 공유와 소통을 이어가는 프로그램이다.
최근 시장에서는 ‘오픈클로(OpenClaw)’, ‘몰트북(Moltbook)’ 등 에이전틱 AI 기반 서비스가 잇따라 등장하며 관심을 끌고 있다. 에이전틱 AI는 사용자의 지시를 받아 단순 응답만 내놓는 수준을 넘어, 스스로 목표를 설정하거나 여러 단계를 계획하고 외부 시스템과 연동해 작업을 수행하는 방식으로 진화하고 있다. 이 과정에서 다양한 서비스와 데이터에 접근하게 되며, 자연스럽게 개인정보 처리 범위와 방식도 더욱 복잡해질 수밖에 없다는 점이 핵심 쟁점으로 떠오르고 있다.
개인정보위는 특히 에이전틱 AI가 기존 AI 서비스와는 다른 차원의 복합적인 프라이버시 리스크를 만들 수 있다고 보고 있다. 대표적으로 여러 서비스가 연동되는 과정에서 에이전트의 접근 권한이 본래 의도보다 넓어질 수 있는 ‘권한 확대’ 문제가 거론됐다. 또 악의적으로 조작된 입력값이나 명령을 통해 민감한 정보가 외부로 흘러갈 수 있는 ‘프롬프트 인젝션’ 위험도 주요 이슈로 제시됐다. 여기에 에이전트가 작업 효율을 높이기 위해 기억 기능이나 장기 문맥 저장 기능을 활용할 경우, 민감정보가 내부 메모리나 기록에 지속적으로 축적될 가능성도 우려 사항으로 꼽혔다.
이 같은 문제의식 아래 열린 이번 회의에서는 전종홍 한국전자통신연구원(ETRI) 책임연구원이 발제자로 참석해 에이전틱 AI의 구조와 작동 원리, 그리고 개인정보 보호 관점에서 주의해야 할 주요 위험 요소를 설명했다. 이어 몰트북과 오픈클로 등 실제 서비스 시연도 함께 진행되면서 기술이 실제 환경에서 어떻게 작동하는지, 또 어떤 지점에서 개인정보 이슈가 발생할 수 있는지를 참석자들이 직접 확인하는 시간이 이어졌다. 이후 참석자들 간 질의응답과 토의를 통해 기술 이해와 정책 대응 방향에 대한 의견도 폭넓게 오갔다.
개인정보위는 이번 회의를 일회성 내부 학습에 그치지 않고, 향후 정책 논의로 연결하겠다는 방침이다. 회의에서 제기된 주요 쟁점과 정책 의제는 앞으로 ‘AI 프라이버시 민·관 정책협의회’ 분과 회의에서 추가로 논의될 예정이다. 이를 토대로 AI 에이전트에 특화된 개인정보 처리 안내서 마련과 AI 프라이버시 리스크 관리 모델 고도화 작업에도 반영해 나간다는 계획이다.
이번 회의는 에이전틱 AI를 둘러싼 경쟁이 빨라지는 상황에서, 기술 확산 이전 단계부터 프라이버시 리스크를 구조적으로 점검하려는 움직임이라는 점에서 의미가 있다. 특히 AI가 단순한 대화형 도구를 넘어 사용자를 대신해 여러 서비스를 넘나들며 업무를 수행하는 방향으로 발전하고 있는 만큼, 개인정보 보호 역시 기존 고정형 서비스 기준이 아니라 자율성·연결성·지속성까지 고려한 새로운 기준이 필요하다는 점을 시사했다.
결국 에이전틱 AI 시대의 핵심 과제는 기술 혁신과 개인정보 보호를 어떻게 함께 설계하느냐에 달려 있다. 개인정보위가 이번 브라운백 회의를 계기로 관련 기술에 대한 이해를 넓히고, 개인정보 안심설계(PbD) 중심의 사전예방적 정책 기반을 강화하겠다고 밝힌 것도 이런 흐름과 맞닿아 있다. 앞으로 실제 정책 가이드와 리스크 관리 체계가 어떤 수준으로 구체화될지 주목된다.
보안 사건사고 제보 하기
보안 관련 어떤 내용이든 제보를 기다립니다!
이메일
광고문의
★정보보안 대표 미디어 데일리시큐 / Dailysecu, Korea's leading security media!★
길민권 기자
다른기사 보기
저작권자 © 데일리시큐 무단전재 및 재배포, AI학습 및 활용 금지
댓글
0