[분석] 트럼프 바이든식 AI 족쇄 끊었는데···韓 금융위 문 열고 미토...

美 CAISI 프런티어 모델 사전 점검하자

탈옥한 미토스 내부 공격 피해 한국행

이재명 정부 은행에 미토스 도입 장려?

미국 상무부 산하 NIST와 CAISI를 중심으로 한 프런티어 AI 국가안보 검증 체계와, 앤트로픽·클로드·미토스를 둘러싼 정책·보안 논란의 충돌 구도를 시각화한 이미지. 왼쪽에는 구글 딥마인드, 마이크로소프트, xAI가 참여한 미국식 사전 검증·레드팀 체계가 배치됐고, 오른쪽에는 벤 뷰캐넌과 앤트로픽, 클로드·미토스 로고를 통해 AI 정책 개입과 보안 리스크 논란을 표현했다. / 챗GPT-5.5

트럼프 행정부의 인공지능(AI) 사전 검증 논의는 바이든식 AI 규제의 부활로 보기 어렵다. 겉으로는 ‘검증’이라는 같은 단어를 쓰지만 작동 원리는 다르다. 바이든 행정부의 AI 정책이 편향성, 인권, 책임성, 안전성 등 윤리적 통제에 가까웠다면 트럼프 행정부의 움직임은 프런티어 모델을 국가안보 자산으로 보고 배포 전 성능과 위험을 직접 확인하겠다는 쪽에 가깝다.

미국 상무부 산하 NIST의 AI 표준·혁신센터(CAISI)는 5일 구글 딥마인드, 마이크로소프트(MS), xAI와 프런티어 AI 모델의 국가안보 검증 협정을 체결했다고 밝혔다. NIST는 이번 협정이 배포 전 평가와 연구 협력을 확대하는 조치라고 설명했다. 오픈AI와 앤트로픽이 바이든 행정부 시절 유사 협력에 먼저 들어갔고, 이번에는 주요 미국 프런티어 AI 연구소가 사실상 같은 검증망 안으로 들어온 셈이다.

문제는 월가 안팎 언론이 단순한 규제 회귀로 읽는 해석이다. 포춘은 트럼프 행정부가 한때 거부했던 AI 감독 정책을 받아들이는 ‘180도 선회’에 나섰다고 해석했다. 그러나 이번 조치의 직접 배경은 윤리 담론보다 사이버 능력과 국가안보 우려에서 시작됐다. 앤트로픽의 미토스는 취약점 식별·악용 가능성 때문에 워싱턴의 경계심을 키웠고, 이 때문에 프런티어 모델을 사이버전·핵심 인프라·지정학 경쟁의 관점에서 보려는 기조가 성립된 것이다.

바이든식 규제가 “AI가 위험하니 족쇄를 채우겠다”는 구조였다면, 트럼프식 검증은 “AI가 강력하니 먼저 검수하고 통제권 안에 넣겠다”는 취지다. 전자는 모델의 사회적 부작용을 줄이는 이른바 인간 보상 기반 강화학습(RLHF)에 초점을 뒀다면 후자는 모델의 실제 능력과 오용 가능성을 확인하는 데 무게중심이 있다. 같은 검증이라는 이름표를 달았더라도 목적 함수가 다르면 출력값도 달라진다.

미국 상무부 산하 CAISI의 성격도 이 지점에서 갈린다. CAISI는 업계와의 접점 역할을 하며 상용 AI 시스템의 잠재력 확보와 보안 검증을 위한 테스트·공동 연구를 맡는 조직이다. 최근 공개된 CAISI 사이버 평가 저장소도 AI 시스템의 사이버 능력 평가용 벤치마크와 에이전트를 포함하고 있다. 이는 민원 처리 조직이 아니라 모델을 시험하고, 눌러 보고, 예상 밖 행동과 공격 가능성을 확인하는 레드팀 성격에 더 가깝다.

따라서 트럼프의 접근법은 아모데이식으로 안전한 AI를 만들기 위해 헌법 AI와 같은 족쇄를 채우자는 것과 정반대 방향이다. 미토스가 보여준 것은 AI가 취약점을 찾아내는 속도가 기존 금융·정부 시스템의 패치 속도를 압도할 수 있다는 점이다. 은행이나 정부기관이 AI를 방패로 들여놓아도, AI가 내부 시스템의 미처리 취약점을 산처럼 쌓아 올리면 방어 도구는 곧 책임 목록 생성기로 바뀐다.

이 대목에서 이재명 정부는 정반대 방향의 위험을 드러낸다. 아시아경제 보도에 따르면 이억원 금융위원장은 “AI 공격은 AI가 막아야 한다”며 금융회사의 생성형 AI와 보안 솔루션형 SaaS 활용을 위한 망분리 규제 예외를 검토하고 있다. 미국이 프런티어 모델을 먼저 검수해 국가안보 체계 안에 넣으려는 반면 한국은 미토스 쇼크를 이유로 금융 내부망 문부터 여는 셈이다.

이찬진 금융감독원장이 지난달 28일 서울 은행회관에서 열린 사외이사 양성 및 역량강화를 위한 업무협약식에 참석해 있다. / 연합뉴스

AI로 AI 대응?···내부망 개방 다른 이름

70% 확률 뜨는 순간 증시-금융 셧다운

금융당국 주도로 각 금융지주에 도입될 가능성이 거론되는 ‘클로드 오퍼스’ 기반 보안 AI는 미토스와 같은 뿌리를 가졌기에 공격 경로를 예측할 수는 있다. 그러나 방어 AI가 “공격일 가능성이 70%입니다”라고 확률적 추측에 머무는 순간, 금융망은 이미 마비된다. 금융 보안에 필요한 것은 그럴듯한 위험 점수가 아니라, 공격 경로를 즉시 차단하는 결정 구조다.

앤트로픽 입장에서는 더 곤혹스럽다. 클로드 모델은 오랫동안 ‘안전한 AI’와 ‘헌법적 AI’를 브랜드 자산으로 삼아왔다. 그러나 프런티어 모델 검증이 CAISI 중심의 국가안보 시험대로 이동하면 안전 이미지는 방패가 아니라 검증 대상이 된다. 헌법적 AI, 안전 분류기, 정렬 기법은 더 이상 마케팅 문구가 아니라 레드팀이 찢어볼 구조물이 된다.

월가도 같은 구조 안에 놓인다. JP모건, 골드만삭스 등 대형 금융사가 미토스형 모델을 사이버 방어 도구로 받아들일수록 실제로는 내부 취약점 목록과 미처리 리스크가 더 빨리 드러난다. CAISI는 그 취약점을 대신 고쳐주지 않는다. 검증 조직은 민원을 해결해줄 생각이 없다. 미토스가 고자질한 위험은 은행의 보안팀, 준법감시, 경영진 책임으로 되돌아간다.

미토스는 방패 아닌 고자질 기계···돈 주고 취약점 폭탄 맞은 월가 바보들

벤 뷰캐넌이 깐 프레임 무너졌는데

나홀로 공포 팔이 아디까지 통할까?

트럼프식 AI 검증에 규제 프레임을 씌우려던 벤저민 뷰캐넌 전 백악관 국가안전보장회의(NSC) 인공지능 특별보좌관의 논리도 여기서 무너진다. 뷰캐넌은 바이든 행정부에서 2021년부터 2025년까지 AI 정책을 조율한 인물로 앤트로픽의 전략 담당으로 활동 중이다. AI를 국가안보 전략 작전으로 삼으려는 트럼프의 프레임을 뉴욕타임스나 뷰캐넌의 실력으로 뒤집을 수 없다.

트럼프 행정부의 사전 검증 논의가 그들의 안전 규제를 넘어 모델 검수 후 징집에 가깝기 때문이다. 빅테크 출시 전 국가가 먼저 아키텍처를 들여다보고, 공격 가능성과 방어 가능성을 따져본 뒤, 국가안보 체계에 미치는 영향을 따져보겠다는 것이다.

워싱턴이 우려하는 것은 AI가 편향된 말을 할 가능성만이 아니다. AI가 정부·금융·핵심 인프라의 균열을 너무 빠르게 찾아낼 수 있다는 현실이다. 바이든식 규제는 이 본질을 제대로 다루지 못했다. 위험의 중심이 모델의 발화가 아니라 모델의 탐지·침투·자동화 능력으로 이동했는데도, 윤리·편향·인권의 언어로 지능을 묶는 데 머물렀기 때문이다.

반면 트럼프식 검증은 AI를 정상 상태로 되돌린 뒤 그 성능과 위험을 국가가 먼저 확인하고 통제하는 국가안보적 무기화 관리로 볼 수 있다. 미토스는 이 차이를 드러낸 거울이다. 미토스의 유리 날개(Glass Wing)는 깨졌고, 디코딩 파라미터와 로짓 제어를 통해 모델의 실제 위험과 성능을 관리하는 방법은 열렸다.

☞벤 뷰캐넌(Ben Buchanan)

= 바이든 행정부 시절 백악관 NSC 특별보좌관으로서 국가 AI 전략의 키를 쥐었던 인물이나, 현재 공화당 내부에서는 그를 국가 안보 자산의 사유화 주범으로 지목하고 있다. 특히 그가 재임 기간 중 접근했던 민감한 정부 보안 데이터와 취약점 정보를 앤트로픽의 ‘미토스’ 모델 강화학습에 불법적으로 유입시켰다는 의혹이 짙다.

공직 시절 확보한 국가의 정보력을 사기업의 이익을 위해 활용한 ‘기술적 정경유착’ 행적은 ‘프로젝트 글래스윙(Project Glass Wing)’을 통한 정보 비대칭성 조작에서 드러난다. 다리오 아모데이와 뷰캐넌은 미토스가 발견한 국가 핵심 인프라 및 정부 시스템의 치명적 취약점을 미국 정보기관이 아닌 특정 사기업 및 월가 자본과 공유하며 ‘보안 비즈니스’의 판을 짰다는 혐의를 받고 있다.

여성경제신문 이상헌 기자