[기획]일하는데 책임은 없다…AI 보안 '책임 공백' 부각

데이터·모델·플랫폼 얽힌 구조…사고 발생 시 책임 불명확

인공지능(AI)을 활용하는 사람. 일러스트=연합뉴스

매일일보 = 김채은 기자

|

최근 인공지능(AI)이 단순한 보조 도구를 넘어 스스로 판단하고 업무를 수행하는 AI 에이전트로 진화하면서 기업 내 책임 구조에 균열이 생기고 있다는 우려가 커지고 있다. 사람이 아닌 AI가 의사결정과 실행을 동시에 담당하는 환경이 확산되면서 보안 사고나 오류 발생 시 책임 주체를 특정하기 어려운 ‘책임 공백’ 문제가 부상하고 있다.

글로벌 시장조사업체 그랜드뷰리서치에 따르면 AI 에이전트 시장 규모는 2025년 76억달러에서 2030년 503억달러로 확대될 전망이다. 연평균 성장률은 46%에 달한다.

현장에서는 이미 AI 활용이 일상화 단계에 접어들었다. 원티드랩 ‘2026 AX 인사이트 리포트’에 따르면 기업 인사 담당자 130명과 직장인 209명을 대상으로 조사한 결과 응답자의 92.1%가 AI 사용 경험이 있다고 답했다. 이 가운데 약 86%는 업무에서 거의 매일 AI를 활용하고 있는 것으로 나타났다. 사실상 국내 직장인 10명 중 9명 이상이 AI를 경험한 셈이다.

기업 서비스에서도 에이전틱 AI 도입은 빠르게 확산되고 있다. 유통·플랫폼 업계에서는 AI가 상품 탐색부터 비교, 구매까지 수행하는 ‘에이전트 커머스’가 현실화됐다. 네이버는 네이버플러스 스토어 애플리케이션에 ‘쇼핑 AI 에이전트’ 베타 서비스를 도입해 상품 비교, 리뷰 분석, 배송 조건 확인 등 복잡한 과정을 자동화했다. 카카오 역시 카카오톡 내 챗GPT 기반 기능을 통해 대화형 상품 추천 서비스를 제공하며 AI 활용 범위를 넓히고 있다.

이처럼 AI가 실질적인 업무 주체로 자리 잡으면서 기존 보안·책임 체계의 한계도 뚜렷해지고 있다. 현재 대부분의 보안 체계는 인간의 의사결정을 전제로 설계돼 있어 AI가 개입된 사고에 대해서는 명확한 대응 기준이 부족한 상황이다.

기존 시스템보다 통제 구조가 훨씬 복잡한 AI 생태계의 구조적 특성 역시 책임 공백을 심화시키는 요인으로 지목된다. 외부 LLM이나 API 연동이 활성화돼 있고 데이터 제공자부터 모델 개발자, 플랫폼 사업자, 서비스 운영자까지 역할은 분리돼 있기 때문이다. 이에 AI를 활용하다 발생하는 정보 유출이나 오류에 대해 어느 주체가 책임을 져야 하는지에 대한 기준은 여전히 미비하다.

이에 따라 기업은 법적 리스크와 함께 보안 대응 비용까지 동시에 부담해야 하는 상황에 놓이고 있다. 나아가 AI를 전 업무 영역으로 확대 적용하는 흐름이 빨라질수록 기업 내부 의사결정 전반의 불확실성으로 이어질 수 있다는 우려도 제기된다.

정부와 산업계도 문제 인식에는 공감하고 있다. 발전하고 있는 AI 기술을 뒷받침할 법·제도 기반은 아직 충분히 마련되지 않았다는 지적에 따라 민·관 협의체인 ‘에이전틱 AI 얼라이언스’를 중심으로 관련 제도를 정비하고 AI 생태계 구축을 추진할 방침이다.

전문가들은 AI 확산 속도에 맞춘 책임 원칙 정립이 시급하다고 강조한다. 염흥열 순천향대학교 정보보안학과 교수는 “AI가 의사결정을 수행하더라도 최종 책임은 인간에게 부여하는 원칙을 명확히 할 필요성이 있다”며 “책임 기준과 표준화가 정립되지 않으면 기업의 AI 도입 부담이 지속적으로 확대될 수 있다”고 말했다.