[월드IT뷰] EU, 'AI법' 고위험 시스템 의무 적용 1년 연기…동의 없는 딥...

유럽의회 전경. (출처=유럽의회)

[뉴스웍스=박광하 기자] 유럽의회와 유럽연합(EU) 이사회가 고위험 인공지능(AI) 시스템 규정 의무 적용 시점을 독립형은 약 16개월, 규제 제품 내장형은 기존 독립형 기한 대비 약 24개월 늦추는 내용의 AI 법 간소화 잠정 합의안을 마련했다.

당사자 동의 없이 식별 가능한 인물의 신체 노출 부위나 성적 행위를 묘사하는 AI 시스템을 금지하는 조항이 처음으로 신설됐지만, 여러 시민사회 단체는 합의가 AI 법의 기본권 보호 수준을 실질적으로 낮췄다며 강하게 반발하고 있다.

유로뉴스 등 여러 외신은 유럽의회와 EU 이사회가 7일 세 차례에 걸친 삼자 협상 끝에 이 같이 잠정 합의했다고 보도했다.

합의에 따라 생체인식·핵심 인프라·교육·고용·이민·법집행·국경 관리 분야에 쓰이는 고위험 AI 시스템에 대한 의무 적용 시점을 기존 올해 8월 2일에서 내년 12월 2일로 연기했다.

EU 안전 요건 관련 법률의 적용을 받는 규제 제품에 내장된 AI 시스템의 경우 기존 내년 8월 2일에서 2028년 8월 2일로 각각 늦춰진다.

EU 집행위원회는 지난해 11월 19일 유럽 기업의 경쟁력 강화를 명분으로 AI 법 간소화 패키지인 '디지털 옴니버스'를 발의한 바 있다. 협상은 세 차례 진행됐으며, 지난달 28일 열린 2차 협상은 12시간에 걸친 논의 끝에 규제 제품 내장형 AI 시스템의 고위험 판단 방식을 둘러싼 이견으로 결렬됐다.

이후 추가로 소집된 7일 협상에서 최종 합의가 이뤄진 것이다. 헤나 비르쿠넨 EU 집행위원회 기술주권 담당 수석부위원장은 "고위험 규정이 발효되기에 앞서 기술 표준과 지침 같은 지원 수단이 갖춰지도록 하려는 것"이라고 말했다.

합의안에는 연기 조치 외에도 여러 조정 사항이 담겼다. AI 생성 콘텐츠에 대한 워터마킹 의무 유예기간을 당초 제안된 6개월에서 3개월로 단축해, 기업들이 올해 12월 2일까지 관련 시스템을 갖추도록 했다.

자사 시스템이 고위험 기준에 해당하지 않는다고 자체 평가한 AI 공급자가 EU 데이터베이스에 해당 사실을 등록해야 한다는 의무도 집행위원회의 당초 제안과 달리 유지됐다. 이에 따라 기업들은 자체 평가 결과를 공개 데이터베이스에 기록해야 한다.

합의안에 새로 포함된 금지 조항은 당사자 동의 없이 식별 가능한 인물의 신체 노출 부위나 성적 행위를 담은 이미지·영상·오디오를 생성하는 AI 시스템과 아동 성착취물 생성 AI 시스템의 제조·사용을 금지하는 내용이다.

금지 대상은 그런 콘텐츠 생성을 목적으로 출시된 시스템, 또는 콘텐츠 생성을 막는 합리적 안전장치 없이 출시된 시스템이다. 기업들은 올해 12월 2일까지 자사 시스템을 이 조항에 맞게 정비해야 한다.

시민사회 단체들의 비판은 거세다. '아티클19(ARTICLE 19)'를 포함한 40여 단체는 지난달 유럽의회에 연명 서한을 보내 합의안이 생체인식 AI·학교 내 AI·의료 AI 등에 관한 기본권 보호 조항을 약화시킨다고 경고했다.

국제앰네스티도 간소화를 명분으로 내세우고 있지만 이는 빅테크 기업들의 개인정보 수집 활동을 사실상 용이하게 만드는 규제 후퇴라고 비판했다.

AI 법 협상 책임자인 마이클 맥나마라 유럽의회 의원도 업종별 규제 중복 조정의 필요성은 인정하면서도, AI 거버넌스를 개별 업종 법률로 분산시킬 경우 사실상 규제 완화로 이어질 수 있다고 경고했다.

잠정 합의안은 올해 8월 2일까지 유럽의회와 EU 이사회의 공식 승인을 받아야 발효된다.