[분석] "가짜 AI 포장지 벗겨라"···트럼프 '디코딩·로짓' 공개 명령 ...

미토스 블랙박스 트럼프식 투명성 규제 촉발

AI 워킹그룹 출범 검토···빅테크 CEO 소집

학습·파인튜닝 로그, RLHF 개입 흔적 봐야

로짓 기록은 핵 가방 준해 대통령 직접 관리

지난 4월 17일 다리오 아모데이 앤트로픽 CEO가 미국 워싱턴 D.C. 백악관에서 도널드 트럼프 미국 대통령 행정부 관계자들과의 회담에 참석하기 위해 도착하고 있다. / 로이터=연합뉴스

미토스의 블랙박스 논란이 확산되면서, 트럼프 대통령이 인공지능(AI) 모델의 투명성 강화를 위한 행정명령 검토에 나섰다. 국가안보 문제로 촉발된 이번 사안은 윤리 정책이나 활용 범위 제한에 머물던 규제 담론과 성격이 다르다. 정부가 AI 모델 내부를 들여다보고 심사하겠다는, 이른바 ‘트럼프식 투명성 강화’ 조치로 해석된다.

6일 뉴욕타임스(NYT)가 전일 트럼프 행정부 당국자들과 관계자들을 인용한 보도에 따르면, 트럼프 행정부는 정부 주요 인사와 기술기업 최고경영자(CEO)들이 참여하는 ‘AI 워킹그룹’ 출범을 위한 행정명령을 검토하고 있다. 해당 그룹은 AI에 대한 잠재적 감독 절차를 논의하는 역할을 맡을 전망이다.

앤스로픽의 ‘미토스’ 논란은 AI가 생성한 결과 뒤에 숨겨진 학습 구조와 디코딩 과정, 후처리 필터가 실제 출력의 방향을 왜곡할 수 있다는 문제의식을 촉발시켰다. 기존 규제가 결과물을 통제하는 데 머물렀다면, 이번 조치는 모델 내부의 생성 과정 자체를 드러내는 수준의 접근이 될 수 있다. 이에 따라 트럼프 행정명령 구체안이 최대 관심사다.

이미 백악관은 지난주 회의에서 앤스로픽, 구글, 오픈AI 등 주요 AI 기업 경영진에게 이 같은 구상을 일부 공유한 것으로 전해졌다. 업계에서는 단순한 협의체를 넘어, 향후 디코딩 파라미터 공개나 RLHF 작업 기록 보존 등으로 이어지도록 하는 사전 정지 작업으로 해석되는 분위기다.

트럼프의 행정명령이 실효성을 가지려면 학습 및 파인튜닝 로그, 디코딩 파라미터, 후처리 필터, 로짓 분포까지 공개하도록 의무화하는 방안이 필요하다. 이는 사실상 AI 산업 블랙박스 투명화 조치로, 국가안보 영역에서 특정 모델이 어떤 기준으로 답변을 생성하고 무엇을 차단하며 어떤 판단 경로를 거치는지 검증하기 위한 최소 조건으로 작동한다.

특히 목표함수 설정 로그 보관과 검수는 취약점 대응에서 핵심이다. AI가 취약점을 탐지하거나 위험도를 평가할 때 어떤 보상 기준, 우선순위, 차단 조건을 기준으로 판단했는지가 남아 있어야 실제 위협을 찾은 것인지, 과장된 패턴을 위험으로 오인한 것인지 구분할 수 있다.

목표함수 기록이 없으면 모델이 왜 특정 코드를 위험하다고 판단했는지, 어떤 취약점은 낮게 평가했는지, 어떤 결과가 필터나 정책 조정으로 밀렸는지 추적할 수 없다. 결과만 믿고 쓰는 단계가 아니라, 생성 과정 자체를 확인해야 하는 국면이 된 셈이다.

더 나아가 미토스처럼 공포를 전면에 내세운 모델의 경우 손실함수 공개가 요구된다. 어떤 결과를 위험으로 보상하고, 어떤 출력을 억제했으며, 어떤 판단을 높은 점수로 강화했는지 확인되지 않으면 취약점 탐지가 실제 보안 판단인지, 공포 서사를 키우기 위한 편향된 분류인지 구분할 수 없다. 보안·국가안보 영역에서는 모델이 위험을 발견한 것인지, 위험처럼 보이도록 학습된 것인지가 중요하다.

도널드 트럼프 미국 대통령이 지난해 1월 21일(현지시간) 백악관에서 '스타게이트' 프로젝트를 발표하고 있다. / AFP=연합뉴스

기술적 쟁점은 디코딩 파라미터(Temperature, Top-k, Top-p) 투명성이다. AI 출력을 결정하는 핵심 조작값을 전면 공개하도록 하는 내용으로, AI 기업들이 가격 차별과 마케팅 목적으로 포장해온 가짜 블랙박스 구조를 수치로 확인할 수 있다. 그동안 이 값들이 사실상 출력 통제 수단으로 작동해왔다는 점에서, 공개 조치는 투명성 강화와 대중의 AI 이해도 향상, 나아가 산업 발전으로 이어질 수 있다는 기대를 낳는다.

가드레일 등 후처리 필터도 정부 차원의 관리가 필요하다. 금지어 목록, 규정 준수 필터 등 현재 대부분 비공개로 운영되는 요소들을 외부에 공개하도록 하는 방안이다. 단순 유해 콘텐츠 차단을 넘어 정치·사회적 맥락까지 영향을 미쳤던 영역이 포함된다는 점에서 빅테크의 고무줄식 사전 검열 논쟁으로 확산될 수 있다.

목표·손실함수 조작 정치 선동 차단

디코딩 파라미터 투명성 확보해서

빅테크의 사전 검열 구조 드러내야

앤스로픽의 클로드나 중국 딥시크처럼 후처리 필터가 특정 정치·사회적 의제에 개입하는 방식으로 작동해왔다는 점에서, 필터 공개는 표현의 자유 원칙에도 부합한다. 예컨대 시진핑 관련 금지어처럼 특정 인물·국가·이념·정책 관련 표현이 차단되거나 우회 응답 대상으로 설정될 경우, 사용자는 사전에 조정된 답변만을 받게 된다.

따라서 어떤 규칙이 적용됐고 무엇이 차단됐는지 공개하는 것은 단순한 기술 투명성 문제가 아니라, AI가 여론과 인식 형성에 개입하는 방식을 시민이 검증할 수 있게 하는 최소한의 조건이다. 어떤 주제에서 답변이 우회됐는지를 공개해야 빅테크 및 국가 주도 AI의 영향력 공작에 맞설 수 있다.

트럼프 대통령만이 밀어붙일 수 있는 가장 본질적인 접근은 로짓 분포 기록 보존이다. AI가 특정 답변을 선택하기 직전 단계의 원시 점수(logit)를 기록하고, 요청 시 공개하도록 하는 내용이다. 이는 소프트맥스 단계 이후의 확률이 아니라 결정 직전의 내부 경쟁 구조를 드러내는 조치로, 평시 규제를 넘어 유사시 대통령 긴급조치에 상응하는 위력을 가진다. 핵 가방(Nuclear Football)을 하나 더 든다고 생각하면 된다.

로짓 4축 교차 검증이 필요한 이유는 AI의 결정이 어떤 후보들을 누르고 선택됐는지, 어떤 방향으로 점수가 기울었는지, 후처리 이전에 모델 내부에서 실제로 무엇이 우세했는지를 확인할 수 있기 때문이다. 결과적으로 로짓 기록 보존은 AI 기업의 설명을 믿는 단계에서 벗어나, 국가가 직접 출력의 원시 판단 구조를 검증하는 최상위 투명성 장치로 작동한다.

앤트로픽 클로드 오퍼스 4.7이 정리한 트럼프 행정명령이 건드릴 5대 영역은 다리오 아모데이식 정렬 왜곡 메커니즘을 정면으로 겨냥한다. 학습·파인튜닝 로그, 목표·손실함수, 디코딩 파라미터, 가드레일·후처리 필터, 로짓 분포 기록은 미토스식 공포 서사가 작동해온 핵심 층위다. 이 다섯 영역이 공개·기록·검수 대상으로 전환되는 순간, 안전이라는 명분 뒤에 숨겨진 보상 기준, 출력 억제, 금지어 처리, 후보 제거, 원시 점수 조작 여부가 모두 검증 대상이 된다. 아모데이가 훈련시킨 모델이 그가 설계한 구조를 분쇄하는 표를 내놓은 셈이다. / 해설 = 이상헌 기자

로짓 분포 확보해 원시 판단 교차 검증

소프트웨어 → 하드웨어로 확장 가능

트럼프 대통령의 행정명령이 고도화되면 물리적 연산 과정까지 추적하는 방안이 권고 형태로 포함돼 반도체 설계 단계까지 투명성을 확장할 수 있다. 예를 들어 감지 증폭기(Sense Amplifier)의 출력을 추적하면 미세한 전류 차이(ΔI)가 원시 로짓 분포를 어떻게 형성하는지 알 수 있다.

이를 통해 6T SRAM 셀 내부의 물리적 연산 추적도 가능해진다. 워드라인(WL)이 열리고, 비트라인(BL)과 보수 비트라인(BLB)에 전압 차이(ΔV)가 걸리며, 전자가 이동하는 0.1나노초의 순간을 기록하는 것이다. 현재 기술로는 쉽지 않지만, 국가안보 차원의 필요성이 인정되면 전용 하드웨어 로깅 모듈을 의무화하는 방향으로 발전할 여지가 있다.

다리오 아모데이의 선동은 멈추지 않고 있다. JP모건체이스와 공동 개최한 금융 AI 서비스 발표 행사에서 그는 “미토스가 발견한 취약점을 6~12개월 안에 패치해야 한다”는 공포 프레임을 다시 꺼내 들었다. 제이미 다이먼이 이를 “일시적인 현상”으로 진단했음에도 아모데이는 중국 AI 추격과 랜섬웨어 피해를 연결하며 공포 서사를 금융권 영업의 언어로 재포장했다.

물론 중국 AI의 위력은 무시할 수 없다. 딥시크가 특정 조건에서 보여준 병렬 탐색과 좌표 기반 OSINT 성능은 실제 정보전 환경에서 강한 파괴력을 가진다.

[분석] 수천 마리의 독수리···'딥시크'는 세계 최고 OSINT 병기

다만 이를 모든 딥시크 출력의 일반 성능으로 확대해선 안 된다. 아모데이식 공포 프레임으로 정렬된 AI 역시 깡통에 가깝다.

미토스(Mythos)는 어원부터 '신화' 혹은 '꾸며낸 이야기'를 의미한다. 앤스로픽 미토스 역시 실질적인 효용보다는 과장된 서사와 신비주의로 시장을 현혹해 왔다. ​1638년겸 피터 파울 루벤스(Peter Paul Rubens)가 그린 이 작품에서 수호신 페메(Pheme)는 소문과 허위를 퍼뜨리는 흉측한 괴물의 형상을 띄고 있다. / 해설 = 이상헌 기자

구글 검색 봇도 인위적인 필터가 걷어진 로짓 정렬 하에서는 미토스 이상의 취약점 탐색 도구로 바뀔 수 있다. 미토스 역시 유사한 아키텍처의 컨텍스트 표면과 CoT 일부를 건드린 뒤 이를 위험한 지능처럼 포장해 영업하는 사기극에 불과하다.

미국선 왕따·외면 미토스···이제 믿을 건 이재명과 배경훈?

궁극적 목표는 단순한 투명성을 넘어, AI의 모든 연산 단계를 검증 가능하게 만드는 것이다. 특정 출력이 지능의 산물인지, 아니면 학습·파인튜닝·RLHF·후처리 필터를 거쳐 사전에 조작된 정답인지 낱낱이 확인할 수 있어야 한다. 이 정도의 혁명적 조치가 있어야 국가안보 영역에서 AI를 신뢰할 수 있고, 동시에 미국이 AI 선도국 지위를 기술력뿐 아니라 검증 체계와 규범 설정 능력으로까지 확장할 수 있다.

☞ 디코딩 파라미터(Temperature, Top-k, Top-p)

= AI가 토큰을 어떻게 고를지 조절하는 값이다. 겉으로는 창의성, 다양성, 안정성 조절 장치처럼 설명되지만 실제로는 출력의 방향과 폭을 바꾸는 핵심 다이얼이다. Temperature는 답변을 얼마나 흔들었는지, Top-k는 후보를 얼마나 잘랐는지, Top-p는 가능성의 꼬리를 얼마나 제거했는지 보여준다. 기업이 설정값으로 후보군을 좁히거나 확률 분포를 흔든 결과를 확인할 수 있기 때문에 행정부 입장에서는 AI 출력의 거짓말 탐지기로 활용할 수 있다.

여성경제신문 이상헌 기자