개빈 뉴섬 캘리포니아 주지사 (사진=셔터스톡)
미국 캘리포니아주가 AI 기업에 대한 규제를 강화하며 연방 정부와의 갈등이 본격화되고 있다. 주 정부는 공공 계약을 체결하는 AI 기업에 대해 안전성과 책임성을 의무화하는 조치를 도입하며 독자적인 규제 노선을 분명히 했다.
뉴욕타임스(NYT)는 30일(현지시간) 개빈 뉴섬 캘리포니아 주지사가 행정명령에 서명하고, 주 정부와 계약을 체결하려는 기업에 AI 오용 방지 대책을 요구했다고 보도했다.
이에 따라 기업들은 불법 콘텐츠 생성, 유해한 편향, 시민권 침해 등을 방지하기 위한 구체적인 보호 장치를 마련해야 한다.
이번 조치는 특히 생성 AI가 만들어낸 이미지나 영상에 대해 워터마크를 의무적으로 표시하도록 규정한 점이 눈에 띈다. 이는 허위정보 확산을 방지하기 위한 조치로, 주 정부 가이드라인에 따라 공공기관이 생성 콘텐츠를 사용할 경우 명확한 표시가 필요하다.
또 연방 정부가 특정 기업을 공급망 위험 대상으로 지정하더라도, 캘리포니아는 자체 평가를 통해 계약 유지 여부를 독립적으로 판단할 수 있도록 했다. 이는 최근 미 국방부가 앤트로픽을 공급망 위험 대상으로 지정한 사례와 맞물려, 주 정부의 자율성을 강조한 조치로 해석된다.
이번 행정명령에는 앞으로 120일 이내에 새로운 AI 공급업체 인증 제도를 마련하는 내용도 포함됐다. 캘리포니아 주 총무처와 캘리포니아 주 기술부는 기업이 책임 있는 AI 거버넌스와 공공 안전 기준을 준수하고 있음을 입증할 수 있는 인증 체계를 제안할 예정이다.
캘리포니아의 이 같은 행보는 AI 규제를 둘러싼 연방 정부와의 갈등 속에서 나온 것이다. 도널드 트럼프 대통령은 최근 주 정부의 AI 규제를 제한해야 한다는 입장을 밝히며, “주별로 상이한 규제가 혁신을 저해할 수 있다”고 경고한 바 있다. 백악관도 주 단위 규제가 난립할 경우 미국의 글로벌 AI 경쟁력이 약화될 수 있다는 입장을 내놓았다.
그러나 뉴섬 주지사는 이에 반발하며 “캘리포니아 주민을 보호하는 장치를 약화시키는 시도를 좌시하지 않겠다”고 강조했다. 실제로 캘리포니아를 포함한 여러 주에서는 아동 보호, 개인정보, 딥페이크 규제 등을 중심으로 독자적인 AI 법안을 잇달아 추진하고 있다.
이처럼 연방과 주 정부 간 규제 주도권을 둘러싼 충돌은 점점 격화되는 양상이다. 연방 의회가 AI 관련 포괄적 입법에 실패한 상황에서, 각 주가 먼저 규제에 나서고 이에 연방 정부가 제동을 거는 구조가 반복되고 있다.
박찬 기자 cpark@aitimes.com
댓글
0