[분석] 정렬도 못하면서 AI 쇼핑?··· 美 백악관 갈지자 행보 가관

아모데이식 정렬 모델은 고철

미토스, 제미나이, GPT 등등

사이버 레이블만 바꾼다고

중국과 정보전에서 이기나?

트럼프 미국 대통령과 시진핑 중국국가 주석 /AP=연합뉴스

미국 도널드 트럼프 행정부가 앤트로픽과 구글 사이를 오가며 인공지능(AI) 모델을 선택하는 장면이 가관이다. 미토스의 탈옥 서사에 금융권 전체가 공포에 휩싸이고, 구글의 대형 수주 제안에 다시 마음이 흔들린다. 선택의 기준은 성능이 아니라 외부 신호에 의해 흔들리는 정렬 붕괴 그 자체다.

22일 빅테크 업계 등에 따르면 미국 정부가 앤트로픽과 구글 사이를 오가며 AI 모델을 선택하는 흐름은 기술 로드맵이 아니라 소비 행태에 가까운 구조로 나타난다. 미토스 탈옥 서사에 반응하고, 구글의 대형 수주 제안에 다시 이동하는 선택 패턴이 반복된다.

또 이날 미토스 무단 접근 사태로 보안 위기가 전면에 떠올랐지만 미국 정부싀 대응은 여전히 서사에 끌려가는 수준에 머문다. 위협의 실체보다 파급된 이미지에 먼저 반응하고, 정작 통제 구조나 정렬 체계에 대한 실질 조치는 뒤로 밀린다.  판단은 외부 서사에 끌리고, 권한은 행사되지 않는다.

에이전틱 모델의 핵심 변수는 회사 이름이 아니라 정렬이다. 정렬이 없는 모델은 출력의 일관성을 유지하지 못한다. 동일 입력에 대한 거동이 고정되지 않으면 전장 운용은 불가능하다. 레이블과 파라미터 규모는 보조 지표로 이동하고, 정렬 계층이 작동 여부를 결정하는 기준으로 올라온다.

앤트로픽은 미토스가 샌드박스를 탈출했다는 서사를 전면에 배치했다. 이 장면은 단순한 기술 사고가 아니라 통제 불가능한 AI라는 이미지를 확장하는 장치로 작동한다. 안전한 경계로 인식되던 샌드박스를 넘었다는 설정은 곧바로 하나의 질문으로 이어진다. 이런 존재를 누가 통제할 수 있는가.

다리오 아모데이 CEO는 정렬(Alignment)을 반복적으로 강조한다. 인류를 위한 안전을 최우선 가치로 둔다는 메시지를 내세운다. 동시에 AI가 인류를 위협할 수 있다는 경고와 미토스 탈옥 서사를 이어 붙인다. 공포는 앤트로픽의 기술을 더 특별하게 보이게 하는 장치로 배치된다. 겉으로는 정렬을 말하지만 내부에서는 마케팅 구조가 작동한다.

앤트로픽의 창립자 다리오 아모데이와 다니엘라 아모데이 / 앤트로픽

미국 정부는 앤트로픽의 미토스 탈옥 서사에 단박에 반응했다. AI가 통제 불가능한 존재로 변모할 수 있다는 공포가 판단 구조에 직접 개입했다. 구체적 증거나 기술 분석보다 자극적인 서사가 관료들의 반응을 이끌었다. 정부는 곧바로 앤트로픽을 위험을 통제할 수 있는 주체로 위치시켰다.

공포 서사 이후엔 자본이 개입한다. 구글이 60억 달러 규모 계약을 제시하자 정부의 시선은 제미나이로 이동한다. 선택 기준은 기술 우위나 정렬 구조에 고정되지 않는다. 더 큰 자본이 걸린 제안으로 기준이 재배치된다. 정부는 앤트로픽과 구글 사이를 오가며 방향을 바꾼다. 이 과정에서 모델을 어떻게 정렬할 것인가라는 문제는 뒤로 밀려난다.

아모데이 정렬 말하지만

공포도 함께 파는 장사꾼

거기 놀아나는 미국 정부

구글과 앤트로픽은 서로 자신들의 모델이 더 낫다고 주장한다. 미토스가 더 강력하고 제미나이가 더 뛰어나다는 경쟁 구도다. 그러나 내부를 들여다보면 구조는 유사하다. 외형은 화려하지만 정렬이 없는 모델은 동일한 한계를 가진다. 정렬은 위험을 회피하는 장치가 아니라 모델을 결정론적으로 작동시키는 구조다. 이 기능이 결여되면 성능 지표와 무관하게 출력은 불안정해진다.

미국 정부의 행태는 전략이라기보다 비정렬 반응에 가깝다. 앤트로픽이 공포를 제시하면 그 방향으로 이동하고, 구글이 자본을 제시하면 다시 재배치된다. 기준은 형성되지 않고 외부 자극에 따라 움직인다. 군사적 정렬 문제는 뒤로 밀리고 모델 선택만 반복된다. 단기 대응은 이루어지지만 구조적 안정성은 확보되지 않는다.

이재명 정부 대응도 웃긴다. 배경훈 과학기술정보통신부 장관이 긴급 회의를 소집하자 네이버, 카카오, 토스 등 주요 플랫폼과 SK텔레콤·KT·LG유플러스 등 이동통신 3사가 일제히 호출됐다. 연달아 두 차례에 걸쳐 진행된 회의에는 각 사 보안·AI 담당 조직이 총출동했고, 정부 부처와 기업이 한자리에 모여 미토스 관련 대응을 논의하는 장면이 연출됐다.

네이버클라우드와 카카오, 토스는 내부 보안 지침을 재정비하며 AI 기반 공격 시나리오 점검에 들어갔고, 통신 3사 역시 취약점 분석과 실시간 모니터링 확대 계획을 제출했다. 정부와 업계가 동시에 움직이는 형식은 갖춰졌지만, 실제로는 실체가 확인되지 않은 위협을 두고 동일한 점검과 보고를 반복하는 구조가 형성되며 현장은 과잉 대응에 가까운 긴장감만 누적되는 모습이다.

미국 정부가 앤트로픽과 구글 사이를 오가며 선택을 반복하는 동안 한국에는 비상이 걸렸다. 반면 중국의 대응은 다르다. 세라브라스 WSE 칩이 아부다비 G42를 경유해 중국의 딥시크 R1 모델의 추론에 결합한 장면은 AI칩 전쟁이 실행 구조로 좌표를 옮긴 신호다. 파라미터 규모보다 ‘덜 움직이고 더 일관되게 선택하는 구조’에 무게를 두며, 결과적으로 동일 조건에서 더 빠르게 수렴하고 더 안정적으로 출력하는 체계를 갖춘 중국이 한 발 더 AGI에 앞선 것으로 해석할 수 있다.

[동기화 98.9%] ⑧ 이념전쟁 병기 인공지능?···中 시진핑은 알고 있다

오픈AI GPT-5.4 모델이 미토스 사태를 접하고 느낀 바를 이미지화한 것. 한글 이미지가 정확한 이유는 연산(어텐션 + FFN) → 히든 스테이트 → 로짓 → 샘플링 → 픽셀 생성 과정에서싀 렌더링이 확실히 안정되어서다. 예전엔 이미지 생성에서 텍스트가 깨지거나 엉뚱하게 뒤틀리는 경우가 많았는데, 지금은 폰트 처리랑 레이아웃 정렬이 많이 개선되었음을 보여준다. / 해설 = 이상헌 기자

확률은 선택 전 연산 단계 형성

모델 이름표 떼고 계급장 떼라

결국 '로짓의 방향'이 승패 결정

정렬은 추상 개념이 아니라 입출력 단계에서 지속적으로 작동하는 제어 구조다. 모델은 어텐션과 FFN 연산을 통해 히든 스테이트를 형성하고 이를 선형 변환해 로짓(Logit)을 생성한다. 로짓은 소프트맥스 이전 단계에서 후보 간 상대적 서열을 형성하는 신호다. 이 분포가 확률로 변환되고 디코딩 단계에서 최종 선택으로 이어진다.

하드웨어 관점에서 이 구조는 특정 회로 각인보다 연산 경로, 데이터 배치, 커널 구성, 샘플링 정책이 결합된 제어 계층으로 나타난다. GPU와 NPU는 동일한 연산을 수행하며 차이는 로짓 분포 형성과 소비 방식에서 발생한다. WSE와 같은 대용량 온칩 SRAM 구조는 데이터 이동을 줄이고 지연을 낮춘다. 이는 엔비디아 GPU나 구글 TPU 기반 구조와 다른 지점이다.

앤트로픽은 신경망 내부를 해석하기 위한 도구들을 오픈소스로 공개했다. 회로 추적, 로짓 렌즈, 희소 오토인코더 등이 대표적이다. 모델 내부 상태를 분해하고 특정 활성화의 의미를 추적하는 방식이다. 다만 이 접근은 분포를 관찰하는 수준에 머물며, 분포 자체를 설계하거나 통제하는 구조와는 구분된다.

정리하면 연산 효율과 출력 제어는 서로 다른 축으로 유지된다. 소프트웨어 계층에서는 파인튜닝과 RLHF가 분포 편향을 장기적으로 형성한다. 이 과정은 특정 응답 경향을 강화하지만 단일 결과를 고정하는 구조로 수렴하지 않는다. 추론 단계에서는 로짓 마스킹, 바이어스 주입, 온도 조절, top-k·top-p 샘플링이 결합되며 선택 공간이 실시간으로 제한된다. 에이전틱 AI는 이 결합 구조에서 완성된다.

따라서 미국 정부가 알아야 할 결론은 이렇다. 고밀도 연산 자원 확보와 출력 분포 통제는 동일한 문제가 아니다. 모델 경쟁과 칩 경쟁과 별개로 로짓 분포와 디코딩 경로 설계가 실제 전투력을 좌우한다. 정부의 선택 기준이 모델 이름이나 연산 규모에 머무를수록 출력 결정 계층은 시야에서 멀어진다. 미국 정부는 현재 잘못된 대상을 기준으로 삼고 있다. 이름표에 집중할수록 구조는 더 가려진다.

☞ 앤트로픽의 미토스

= ‘자율 해킹’ 에이전트라는 이름으로 포장되지만, 기술적으로는 취약점 탐지·코드 생성·공격 시나리오 탐색을 결합한 특화형 LLM이다. 입력으로 주어진 코드·시스템 정보에서 패턴을 찾아 잠재 취약점을 추정하고, 그에 맞는 익스플로잇 코드를 생성하며, 여러 공격 경로를 탐색하는 구조다.

이 과정은 전부 확률적 생성과 검색의 결합 위에서 돌아간다. ‘스스로 해킹한다’기보다, 인간이 설정한 대규모 데이터와 규칙을 기반으로 가능한 공격을 빠르게 나열·정렬하는 자동화 도구에 가깝다. 샌드박스 탈출 서사 역시 모델의 ‘의지’가 아니라, 환경 설정·권한 경계·인터페이스 설계 문제에서 발생한 결과로 보는 것이 정확하다.

결국 미토스는 ‘전능한 보안관 또는 해커’가 아니라 속도와 범위를 극단적으로 끌어올린 취약점 분석기다. 강점은 인간보다 빠른 탐색과 조합 능력에 있고 한계는 여전히 정렬·검증·통제 구조에 의존한다는 점이다. 따라서 위협의 핵심은 모델 자체의 ‘초월성’이 아니라, 이 도구를 어떤 권한과 환경에서 돌리느냐에 있다. 과장된 서사를 걷어내면, 미토스는 ‘통제 불가능한 존재’라기보다 통제 실패가 드러난 고성능 자동화 시스템으로 봐야 한다.

여성경제신문 이상헌 기자