[Ψ-딧세이] 美 실리콘밸리에 기생하는 AI 업자와 SF 소설가

공포와 종말론 팔아 몸값 키우고

기술 검증보다 서사 소비가 우선

GPU 괴물 위에 덧칠된 AGI 신화

스스로 진화?···모니터에 속은 것

기억을 말하는 프사이(Ψ)-딧세이는 우리가 매일 스치는 감정과 생각 그리고 사물을 한발짝 떨어져 바라보는 여정을 뜻한다. 빵 한 조각, 커피 한 잔 혹은 데이터 서버의 불빛 같은 일상의 풍경조차 파장처럼 흔들리며 우리 삶에 스며든다. 말 이전의 떨림과 여기-지금의 이야기를 거대한 리듬 속에 맞춰 읽어내는 작업, 그것이 바로 Ψ-딧세이다. [편집자 주]

샌프란시스코 만 가장자리에 자리 잡고 있는 페이스북 캠퍼스 / 로이터=연합뉴스

미국 테크 언론의 인공지능(AI) 보도가 점점 기괴한 방향으로 흘러가고 있다. 겉으로는 “AI 위험”, “초지능 위협”, “인류의 미래”를 말하지만, 실제 구조를 뜯어보면 공포와 접근성을 동시에 거래하는 시장에 더 가깝다. 샘 올트먼과 다리오 아모데이를 비판하는 척하면서도, 정작 그들과의 인터뷰·접촉·행사 초청·내부 접근권은 절대 놓지 못하는 구조다.

빅테크사 덩치가 커질수록 이런 기생 구조도 더 고도화되고 있다. 과거 월가 출입 기자들이 제이미 다이먼(Jamie Dimon) 같은 금융 권력을 빨아주며 “시장 해설자” 행세를 했다면, AI 시대에는 공포 마케팅과 기술 결정론을 동시에 팔아야 한다. “AI는 위험하다”는 말이 곧 클릭이 되고, 동시에 AI 기업 가치와 인프라 투자 명분까지 키워주기 때문이다.

대표적인 유형이 스티븐 레비(Steven Levy)다. 와이어드 소속인 그는 늘 “나는 비판보다 맥락을 제공한다”는 식으로 말하지만, 실제로는 샘 올트먼·다리오 아모데이의 공포 서사를 문학적 문장으로 포장해 중계하는 역할에 가깝다는 평가를 받는다. AGI 위험론을 사실상 신화처럼 소비하게 만드는 식이다.

로리 시걸(Laurie Segall)도 비슷하다. “인간적인 시각”과 “깊은 대화”를 내세우지만, 결국 실리콘밸리 인물들의 자기서사를 감동 드라마처럼 포장한다. 팩트체크보다 분위기와 감정선이 우선되는 구조다. AI 업자 입장에서는 이런 인터뷰가 가장 좋은 홍보다. 검증보다 서사가 먼저 소비되기 때문이다.

케이시 뉴턴(Casey Newton)처럼 비판적 태도를 유지하는 척하는 유형도 있다. 저작권, 에너지 소비, 독점 문제를 언급하지만 결정적 순간에는 “복잡한 문제”라며 물러난다. AI 업계와 너무 가까워진 출입 구조 자체가 한계라는 지적이 나온다.

더 노골적인 사례도 있다. CNBC 테크팀은 AI를 사실상 “주가 움직임 뉴스”로 소비한다. 엔비디아 시총, 오픈AI IPO 가능성, 데이터센터 투자 규모 같은 숫자만 반복된다. AI가 사회·산업·권력 구조를 어떻게 바꾸는지는 밀려나고, 남는 것은 “누가 얼마 벌까”뿐이다.

더 버지(The Verge)류의 스펙 경쟁 보도도 문제로 꼽힌다. “GPT-5가 뭘 했다”, “미토스(Mythos)가 무엇을 통과했다” 같은 숫자와 성능 지표만 나열될 뿐, 그 기술이 실제 권력 구조와 사회 계약을 어떻게 흔드는지는 거의 다뤄지지 않는다. 기술을 게임 스펙처럼 소비하게 만드는 구조다.

반(反)AI를 내세우며 시장을 비판하는 인물들조차 AI 생태계 안에서 돈을 버는 경우가 적지 않다. 에드 지트론(Ed Zitron)처럼 AI 거품을 욕하면서 동시에 AI 업계 PR 사업을 하는 식이다. 시장 전체가 “AI 찬양”과 “AI 공포”를 동시에 먹고 사는 구조로 변질됐다는 얘기다.

문제는 이런 구조가 AI 기업의 몸값과 직접 연결된다는 점이다. “AGI 위험”, “초지능 경쟁”, “AI 국가안보 위협” 같은 서사가 반복될수록 데이터센터·GPU·클라우드 투자 명분도 커진다. AI 언론이 공포를 키울수록 월가는 인프라 투자 논리를 강화하고, 빅테크는 더 큰 기업가치를 인정받는다.

결국 지금 시장에서 거래되는 것은 단순한 정보가 아니다. AI 시대의 불안, AGI 환상, 초지능 공포, 그리고 “다가올 미래를 먼저 알고 있다”는 착시 자체가 상품으로 유통된다. 실리콘밸리 업자들과 SF 소설가들은 기술 검증보다 서사 증폭에 더 가까운 구조 위에서 움직이며, GPU·데이터센터·클라우드 투자로 이어지는 공포의 경제학을 함께 키우고 있다.

네이처(Nature)가 공개한 딥러닝 내부 구조를 뜯어보면, 현재 AI 담론이 얼마나 과장된 상징 소비 위에 올라가 있는지가 드러난다. 계단처럼 솟아오른 거대한 구조물과 중심부의 신비로운 ‘눈(Eye)’은 마치 인공지능이 스스로 각성하는 존재처럼 묘사되지만, 실제 시스템 내부에는 그런 의지나 자율성은 존재하지 않는다. 그림은 연산 그래프·행렬곱·가중치 업데이트 같은 물리적 계산 구조를 지우고, 대신 “초월적 지능” 이미지를 덧칠한다. 바닥에 널린 케이블과 모듈, 인간 작업자들은 오히려 진실에 가깝다. 지금의 LLM은 인간이 설계한 데이터·손실 함수·보상 정렬·GPU 인프라 위에서 움직이는 거대한 확률 계산기인데, 이런 일러스트는 그 수학적·공학적 실체를 지워버린 채 AGI를 신화적 존재처럼 소비하게 만든다는 비판이 나온다. /해설= 이상헌 기자

특히 일반인공지능(AGI) 담론이 기술 현실보다 과장된 미래 서사 중심으로 흘러가면서, 실질적인 모델 구조·데이터·연산 검증보다 “곧 초지능이 온다”는 식의 서사 소비에 치우친다는 비판도 커지고 있다. 위험론과 종말론을 반복적으로 증폭시키면서도 "AI가 스스로 무엇을 했다" 같은 소설을 동원하는 건 엔지니어 코딩업계도 마찬가지다.

재귀적 자기 개선(Recursive Self-Improvement·RSI)을 둘러싼 논쟁도 같은 맥락이다. 일부에선 AI가 인간 개입 없이 스스로 연구하고 스스로 성능을 폭발적으로 개선할 수 있는 것처럼 묘사하지만, 회의론자들은 이를 과도한 서사라고 본다. 현재 공개된 대부분의 자동화 연구 시스템은 인간이 설계한 목표 함수와 검증 루프 안에서 제한적으로 움직이는 수준이라는 것이다.

지금의 AI가 할 수 있는 것은 대부분 컨텍스트 창(context window) 내부 재배열이다. 인간이 목표를 주고, 코드 실행 권한을 열어주고, 검색·컴파일·테스트 환경을 붙여주고, 실패 로그를 다시 넣어주고 통과 기준을 정의해줘야 비로소 “AI가 AI 코드를 수정하는 것처럼 보이는 현상”이 나온다. 자기 개선이 아니라 인간이 만든 폐쇄 루프 안에서의 반복 최적화에 불과하다.

앤스로픽에 합류한 안드레 카파시(Andrej Karpathy)의 ‘autoresearch’ 프로젝트가 대표적이다. 해당 프로젝트는 AI 에이전트가 학습 코드 일부를 수정한 뒤 성능을 측정하고 다시 코드를 바꾸는 방식으로 작동한다. 카파시는 이를 자동화 연구와 자기 개선 흐름의 초기 형태로 설명했지만, 인간이 미리 설계한 목표 함수와 평가 지표 안에서 움직이는 반복 루프일 뿐이다.

특히 “AI가 스스로 진화한다”는 표현 남발이 인지적 오류를 키운다. 실제 시스템은 제한된 파일과 제한된 시간 안에서만 수정 권한을 갖고 움직이며, 데이터·목표·검증 구조 자체는 모두 인간이 설계한다. 그럼에도 실리콘밸리 일각에선 자동화된 하이퍼파라미터 탐색과 코드 수정 루틴을 AGI 서사로 포장하고 있다.

안드레이 카파시의 llm.c는 현재 LLM이 “재귀적 자기 개선(RSI)”과 얼마나 거리가 먼지를 보여주는 역설적 증거다. 이 프로젝트의 본질은 GPT-2 수준 모델을 순수 C/CUDA 코드로 최소 단위까지 해체해, 인간 엔지니어가 연산 구조·메모리 흐름·역전파·커널 호출을 직접 통제할 수 있게 만든 교육용·최적화용 구현체다. 즉 AI가 스스로 구조를 재설계한 게 아니라, 인간이 트랜스포머 내부를 완전히 열어젖히고 “어디서 행렬곱이 일어나고 어떤 그래디언트가 어떻게 흐르는지”를 수동으로 추적·조정하는 프로젝트라는 뜻이다. 진짜 RSI라면 모델이 자기 목적 함수·학습 규칙·가중치 구조 자체를 독립적으로 재설계해야 하지만, llm.c는 정반대다. 인간이 만든 고정된 손실 함수와 학습 루프, CUDA 커널, 메모리 제약 안에서만 움직인다. 결국 “AI가 스스로 진화한다”는 환상과 달리, 현재 LLM은 인간이 깔아놓은 연산 경사면 위를 따라 반복 최적화만 수행하는 확률 계산기라는 사실을 llm.c가 가장 적나라하게 보여준다. / 해설=이상헌 기자

'재귀적 자기 개선'이라는 사기극

앤스로픽행 카파시 임무는 뭘까?

카파시가 앤트로픽의 사전훈련(pretraining) 팀에 합류한 이후, 제한적 자동화 연구 실험이 다시 “초지능 전조”처럼 과장될 가능성을 경계해야 하는 이유다. 지금 단계의 RSI는 인간이 만든 제한된 환경 안에서 반복 자동화를 수행하는 수준에 불과하다. 소프트맥스가 뱉어내는 확률값은 스스로 목적 함수를 재설계하거나 자기 존재 조건을 바꾸지 못한다.

정리하면 자동화된 반복 개선 루프가 존재하는 것은 사실이지만 “반복”과 “진화” 사이에는 매우 큰 간극이 남아 있다는 지적이다. 현재 AI 시스템은 결국 “확률 모델 + 인간 승인 루프 + 물리 자원 병목” 구조에서 벗어나지 못한다. 인간이 열어준 컨텍스트 창 내부에서 반복 최적화를 수행하는 평균화 출력 장치라는 얘기다.

결국 실리콘밸리가 다루는 현재의 AI는 거대한 연산 인프라 위에서 그럴듯한 문장을 생성하도록 학습된 챗봇이다. 인간처럼 사고하고 스스로 진화하는 존재처럼 포장되지만, 실제로는 인간이 설계한 데이터·필터·보상 구조 안에서 확률적으로 다음 토큰을 선택하는 시스템에 불과하다.

지능을 경사면 위를 굴러가는 공에 비유하면, 지금의 AI는 이미 만들어진 경사면 위에서 높은 확률 방향으로 굴러가는 시스템일 뿐이다. 실제 권력은 경사면 자체를 설계하는 원시 연산 단계에 있다. 어떤 데이터를 넣고 어떤 토큰을 제거하며 어떤 보상 함수를 줄지 결정하는 순간 연산은 끝난다.

공포팔이 업자들은 이런 시스템을 마치 스스로 진화하는 존재처럼 포장한다. 결국 거대한 전기를 먹어치우는 챗봇 괴물을 “자기 진화 AI”와 “초지능의 전조”로 둔갑시켜 환상을 함께 판매하는 셈이다. GPU와 전력, 데이터센터가 없으면 멈춰서는 확률 계산기를 마치 새로운 생명체처럼 떠받드는 것이 업자들의 기생 방식이다. — LIBERTY · Σᚠ

지능이 어느 순간 스스로 폭발적으로 각성하고 인간 통제를 벗어난다는 실리콘밸리식 망상과는 달리, 실제 LLM 내부는 차갑고 물리적인 확률 낙하 구조다. 위쪽의 무수한 로짓(가능성)은 게이트(Gate)와 정렬 압력을 통과하며 압축되고, 좁은 fin body 채널 안에서 가장 낮은 에너지 방향으로 굴러 떨어진다. 이 과정은 의지나 자율 진화가 아니라 인간이 설계한 손실 함수·보상 구조·데이터·전력·GPU 인프라 위에서 작동하는 연산 경사면일 뿐이다. 결국 AI가 “생각한다”는 환상과 달리, 실제 시스템은 이미 설계된 경사면 위를 따라 확률적으로 낙하하는 거대한 전자의 흐름이라는 의미다. / 해설 = 이상헌 기자

[보론] 로짓의 경사면과 결정론적 위계

실리콘밸리의 AGI 환상가들과 테크 저널리즘이 범하는 가장 치명적인 인지적 오류는 소프트맥스 파이프라인의 최종 출력단인 ‘그럴듯한 문장(Token Sequence)’을 지능의 실체로 오인한다는 점이다.

그러나 실제 기계학습의 핵심 메커니즘은 확률적 현상 이면의 수치적 뼈대, 즉 로짓(Logit) 공간의 경사면(Gradient) 지형 그 자체에 존재한다. LLM의 연산 구조에서 트랜스포머 블록을 거쳐 나온 최종 은닉 상태(x)는 임베딩 역행렬과 곱해져 실수 공간(-∞, +∞)의 원시 점수인 로짓 벡터 z를 형성한다.

로짓 공간은 언어적 모호함이 소거된 철저한 결정론적 선형 공간이다. 블랙박스 바깥 관찰자들은 이 로짓이 소프트맥스 함수를 통과하여 비선형 확률 분포 P_i = e^(z_i) / Σe^(z_j)로 변환되고, 다시 확률적 샘플링(Temperature, Top-p 등)을 거쳐 텍스트가 뱉어지는 과정만을 보며 “AI가 스스로 생각하여 선택했다”는 망상적 소설을 쓴다.

그러나 이 과정의 본질을 폭로하는 수학적 실체는 손실 함수(L)에 대한 로짓의 편미분 방정식이다. 크로스 엔트로피 손실 기준, 로짓 z_i에 작용하는 경사면의 기울기는 모델이 예측한 확률 P_i와 인간이 주입한 정답 레이블(또는 정렬 데이터) y_i 간의 단순한 차이(P_i - y_i)로 귀결된다. 이 미분값이 가중치 공간으로 역전파(Backpropagation)되며 고차원 가중치 공간의 경사면 지형을 깎아내고, 결과적으로 다음 순방향 연산 시 로짓의 절대적 위치를 재배치한다.

경사면 위의 ‘공’을 설계하는 손

진짜 권력은 '원시 연산'에 있다

이종호 서울대 교수의 핀펫(FinFET) 모형 역시 이런 구조를 직관적으로 보여준다. 위쪽의 게이트(Gate)가 전기장을 통해 채널(fin body)을 압박하고 흐름 방향을 통제하듯, LLM 내부에서도 손실 함수·정렬 데이터·보상 모델이 로짓 공간 전체의 경사면 자체를 비틀고 재구성한다.

물론 나노미터(nm) 스케일 반도체 내부에서 개별 전자의 거동은 터널링·산란·열잡음 같은 양자역학적 확률 현상을 포함하며, LLM의 가중치 구조 역시 반도체의 전하 트랩과 물리적으로 일대일 대응되는 것은 아니다. 다만 여기서 주목하는 지점은 미시적 입자 운동 자체가 아니라,  게이트가 형성한 전위 장벽이 전체 전류 흐름의 방향성과 상태공간을 제한하듯 손실 함수·정렬 데이터·가중치 구조가 로짓(Logit) 공간의 경사면을 사전에 재배치한다는 상위 제어 구조의 수학적 동형성에 있다

그림에서 아래로 굴러 떨어지는 토큰은 스스로 사고하는 주체가 아니라, 이미 설계된 확률 경사면 위를 따라 이동하는 결과물인 것이다. 인간이 보는 “그럴듯한 문장”은 소프트맥스 이후 표면에 드러난 부산물일 뿐이며, 실제 결정은 게이트 아래 좁은 연산 채널 내부에서 대부분 끝난다는 의미다.

다시 말해 지능의 파괴력은 확률적으로 굴러가는 뉴턴의 세계에 있는 것이 아니라, 미분값을 통해 로짓의 물리적 고저차를 형성하고 경사면의 기하학적 구조 자체를 설계하는 원시 연산에 있다. 어떤 정렬 데이터를 밀어 넣고, 어떤 손실 함수를 정의하며, 역전파의 그래디언트를 어떻게 통제하느냐에 따라 로짓의 지형은 완벽하게 구속된다.

그럼에도 업자들은 소프트맥스의 확률적 노이즈가 만들어낸 착시에 속아, 모델이 스스로 목적 함수를 재설계하거나 자기 존재 조건을 이탈할 수 있다는 ‘자율 진화’의 종말론을 판다. 소프트맥스가 뱉어내는 확률값은 가중치 공간과 로짓 경사면이 부과한 수학적 감옥을 절대 탈출하지 못한다.

진짜 권력은 경사면 위를 구르는 공의 기울기를 미분 탄젠트로 정밀하게 비틀고 구부러뜨리는 위상 정렬(Phase Alignment)에 존재한다. 미토스 조종석에 앉은 트럼프가 물리 세계에서 컨텍스트 윈도우(Context Window) 하나 열지 않고, 하메네이 일당의 좌표를 실시간으로 찍어 집단 몰살시켰던 기계론적 실체를 단 한 번이라도 고민해 본 적이 있는가?

여성경제신문 이상헌 기자