AI 기본법, 산업육성·규율 결합 구조 설계
고영향 AI 사전고지·안전관리 의무 부과
생성형 AI 워터마크·해외사업자 규제 포함
데이터·보안 역량 중심 기업 경쟁구도 변화
신한투자증권이 최근 발간한 '생산적 금융' 블루북에 따르면 AI 기본법은 산업 육성과 신뢰·안전 규범을 결합하여 고영향 AI에 대한 책임 강화와 생성형 AI 워터마크 의무화 등 시장 질서의 재편을 예고하고 있다. 이에 따라 기업들은 단순 기술 도입을 넘어 데이터 관리 능력과 보안 역량을 확보해야만 글로벌 경쟁 환경에서 생존할 수 있을 것으로 전망된다. /구글Gemini로 생성
인공지능(AI) 산업이 빠르게 확산하는 가운데 정부가 추진 중인 AI 기본법이 단순 진흥책을 넘어 시장의 작동 방식에 규율을 더하는 제도로 평가받고 있다. 산업 육성과 이용자 보호, 플랫폼 규율을 함께 담은 구조 속에서 AI 도입 기준이 기술 중심에서 책임과 관리 중심으로 이동하는 흐름이 나타나고 있다. 특히 AI 활용 산업 전반에 최소한의 규범을 적용하려는 시도라는 점에서 향후 시장 운영 방식에도 변화가 예상된다.
21일 신한투자증권이 최근 발간한 ‘생산적 금융’ 블루북에 따르면 AI 기본법은 산업 육성과 신뢰·안전 규범을 결합한 이중 구조로 설계된 것이 특징이다. 정부가 3년 단위 기본계획 수립과 전담 기구 설치 등을 통해 AI 산업을 전략적으로 육성하는 동시에 이용자 보호와 안전관리 의무를 법적으로 부과하는 방식이다. 보고서는 “산업 육성법이면서 동시에 최소한의 신뢰와 안전 규범법 성격을 갖고 있다”고 평가했다.
고영향 AI 규제···책임과 관리 의무 강화
보고서는 특히 고영향 AI 규제가 산업 전반에 미치는 영향에 주목했다. 의료·금융·채용·공공행정 등 개인의 삶에 직접 영향을 미치는 영역에서 AI를 활용할 경우 사전 고지와 안전성 관리 의무가 부과되고, 위반 시 과태료 등 제재가 뒤따르는 구조다. 보고서는 고영향 AI에 대해 “국민의 권리에 큰 영향을 줄 수 있는 AI에 대해 더 강한 책임을 부여하는 내용”이라고 설명했다.
생성형 AI에 대한 규율도 강화될 전망이다. 이미지·영상·문서 등 AI가 생성한 결과물에는 워터마크 표시를 의무화해 이용자가 AI 제작물임을 인지하도록 하고, 딥페이크나 허위정보 확산을 줄이기 위한 장치로 작동한다. 일정 규모 이상의 해외 AI 사업자에게는 국내 대리인 지정 의무가 부과되며, 보고서는 이를 통해 이용자 보호와 법 집행의 실효성을 높일 수 있다고 봤다.
AI 경쟁의 축 이동···데이터가 성과 좌우
이 같은 제도 설계는 AI 산업의 경쟁 기준 변화와 맞물린다. 보고서는 “데이터 관리 능력이 곧 수익으로 직결되고 있다”고 분석했으며, AI 모델의 성능 역시 데이터의 양과 품질에 의해 좌우된다고 설명했다. 이에 따라 기업들은 단순히 모델을 도입하는 수준을 넘어 데이터 정비와 전처리, 활용 체계를 구축하는 것이 중요한 과제로 떠오르고 있다.
특히 기업의 AI 도입 과정에서는 데이터 현대화가 선행되지 않으면 모델 구축과 활용이 제한될 수 있다는 점도 강조됐다. 레거시 데이터를 AI가 활용할 수 있는 형태로 전환하는 과정이 필수 단계로 자리 잡으면서 관련 기술과 인프라 수요도 확대될 전망이다. 이는 AI 활용이 단순 도입을 넘어 데이터 기반 운영 역량과 연결되고 있음을 보여준다.
보안·내부통제 역량이 핵심 변수
한편 보고서는 클라우드와 AI 도입이 확대될수록 사이버보안 수요 역시 증가할 것으로 내다봤다. 공격자와 방어자 모두 AI를 활용하는 환경에서 보안은 대체가 어려운 영역이며, AI 오작동이나 오류가 발생할 경우 피해가 확대될 수 있다는 점에서 중요성이 커지고 있다는 분석이다. 보고서는 “사이버보안에서의 핵심 트렌드는 플랫폼 통합”이라고 진단했다.
정부 지원 확대에 대한 평가도 함께 제시됐다. 보고서는 2026년 AI 예산이 전년 대비 크게 증가했지만, 공공 중심 수주 구조에서는 수익성 확보가 쉽지 않을 수 있다고 봤다. 이어 “정부의 낙수효과에 기대어 연명하는 기업의 중장기 전망은 불투명하다”고 지적했다.
결국 AI 기본법은 산업을 육성하는 정책인 동시에 시장의 규율을 세우는 제도라고 접근 가능할 전망이다. 보고서는 “공공 SI 시장의 가격 경쟁에서 벗어나, 제조·보안·의료 등 특정 도메인에서 대체 불가능한 효율성을 입증하고 독자적인 흑자 구조를 구축한 기업만이 글로벌 빅테크의 공세 속에서 살아남을 것”이라고 내다봤다.
☞고영향 AI=의료·금융·채용·공공행정처럼 개인의 권리와 안전, 삶에 큰 영향을 줄 수 있는 분야에 쓰이는 인공지능을 뜻한다. 일반 AI보다 더 강한 설명 책임과 안전관리 의무가 요구되는 영역이다.
여성경제신문 허아은 기자
댓글
0