구글·MS·xAI가 미공개 AI 모델을 미국 정부에 제공해 국가안보 위험 사전 점검을 받기로 했다. [사진: 셔터스톡]
[디지털투데이 AI리포터] 구글과 마이크로소프트(MS), xAI가 출시 전 인공지능(AI) 모델을 미국 정부에 제공해 안전 점검을 받는다.
6일(현지시간) IT매체 실리콘앵글에 따르면, 미 상무부 산하 인공지능 표준·혁신센터(CAISI)는 이들 기업의 미공개 AI 모델을 시험해 국가안보 위협 가능성을 점검한다.
점검 범위는 사이버보안, 생물보안, 화학무기 관련 위험이다. 미국 정부는 고성능 AI 모델이 실제 배포되기 전에 어떤 위협을 만들 수 있는지 사전에 확인하겠다는 방침이다. 이번 합의로 CAISI의 검토 대상은 기존 오픈AI, 앤트로픽에서 구글, MS, xAI까지 확대됐다.
CAISI는 앞서 오픈AI와 앤트로픽의 모델을 평가해 왔다. 두 회사는 약 2년 전 조 바이든(Joe Biden) 전 대통령 행정부와의 합의 이후 모델 검증을 허용했다. CAISI는 그동안 미공개 최첨단 모델을 포함해 수십 건의 평가를 수행했다.
미국 정부는 규제보다는 기업과의 협력을 통해 위험을 점검하는 방식을 유지하고 있다. 다만 최근 앤트로픽의 '클로드 미토스' 모델 일부 공개 이후 안전성 논란이 제기되면서, 사전 검토 체계를 공식화하려는 움직임이 나타났다.
크리스 폴(Chris Fall) CAISI 국장은 성명에서 "독립적이고 엄격한 측정 과학은 첨단 AI와 그 국가안보 영향을 이해하는 데 필수적"이라고 밝혔다.
이와 함께 도널드 트럼프 대통령 행정부도 신규 AI 모델에 대한 공식 검토 절차를 논의하고 있다. 뉴욕타임스는 기술기업과 정부가 참여하는 실무그룹이 모든 신규 AI 모델에 대한 검토 절차를 마련하는 행정명령을 검토 중이라고 보도했다.
트럼프 대통령은 지난해 AI 행사에서 "정치나 규칙으로 AI 발전을 막을 수 없다"라고 밝힌 바 있다. 다만 일자리 감소, 정신건강, 사이버보안에 대한 우려가 커지면서 정부의 접근 방식도 보다 신중한 방향으로 이동하고 있다.
이번 조치는 AI 경쟁력 확보와 안전 관리 강화를 동시에 추진하는 흐름으로 해석된다. 기업은 모델 공개 전 정부 검증을 수용하고, 정부는 개발 속도를 유지하면서 국가안보 위험을 사전에 점검하는 구조다.
AI리포터
댓글
0