[Ψ-딧세이] 바둑의 신? 이창호·이세돌은 왜 확률 감옥에 갇혔나

"인간 주도권" "창의성" 주장하지만

0~1 사이 소프트맥스 감옥 속에서

자기가 이미 내린 판단과 거울 싸움

사회적 해석을 판단이라 부른 한계

기억을 말하는 프사이(Ψ)-딧세이는 우리가 매일 스치는 감정과 생각 그리고 사물을 한발짝 떨어져 바라보는 여정을 뜻한다. 빵 한 조각, 커피 한 잔 혹은 데이터 서버의 불빛 같은 일상의 풍경조차 파장처럼 흔들리며 우리 삶에 스며든다. 말 이전의 떨림과 여기-지금의 이야기를 거대한 리듬 속에 맞춰 읽어내는 작업, 그것이 바로 Ψ-딧세이다. [편집자 주]

지난 5월 6일 울산과학기술원(UNIST) 대학본부에서 열린 토크 콘서트 '반상 위로 먼저 온 미래:이창호·이세돌이 전하는 인공지능(AI) 시대의 한 수'에서 이창호 9단이 사회적 판단에 입각한 발언을 하고 있다. / 연합뉴스

이세돌 울산과학대학원(UNIST) 특임교수와 이창호 국수가 내놓은 '인간 중심 담론'이 인공지능(AI)의 한계인 확률적 사고 틀을 벗어나지 못했다는 비판이 나온다. AI 시대 인간의 역할을 강조했지만, 정작 그 강조 자체가 AI 연산 구조 안에서 작동하는 사후 해석에 머물렀다는 지적이다.

13일 바둑계에 따르면 두 사람은 최근 UNIST 그릿(GRIT) 인재융합학부 출범 기념 행사에서 AI 활용 능력, 인간 창의성, 질문 설계 능력 등을 강조했다. 다만 테크업계 시각은 다르다. 두 바둑 거장의 접근은 AI 내부 연산 구조와 지능 위계 변화 자체를 짚지 못한 채, 인간의 역할을 사후적으로 정당화하는 수준에 그쳤다는 것이다.

이세돌 교수는 "AI를 이용하는 건 쉽지만 활용은 어렵다", "AI의 답을 내 것으로 만드는 인간의 주도권이 중요하다"는 취지의 발언을 내놨다. 그러나 개발자들은 "이미 계산이 끝난 결과를 인간이 해석하는 행위를 판단이라 부르는 것 자체가 착시"라고 지적한다. 판단의 자리가 인간 쪽에 있다는 전제 자체가 틀렸다는 얘기다.

현대 AI 모델은 수조 개 이상의 파라미터를 기반으로 로짓(Logit) 분포를 계산한 뒤, 소프트맥스(Softmax)를 통해 0~1 사이 확률 공간으로 결과를 정규화한다. 인간은 이미 필터링된 결과를 전달받은 뒤 의미와 철학을 덧씌우지만, 실제 선택과 계산은 소프트맥스 이전의 연산 단계에서 이미 끝나 있다.

기술적 용어로 이를 "소프트맥스 감옥"이라 부른다. 인간은 자신이 판단한다고 느끼지만, 실제로는 AI가 먼저 수렴시킨 확률 분포 내부에서 선택지를 고르는 구조에 포위된 상태다. 이창호 국수가 언급한 "모르는 것을 계속 생각하다가 질문한다"는 접근이 대표 사례다. 질문 능력 자체는 중요하지만, 질문 설계만으로는 모델 내부 추론 구조와 정렬 체계를 통제할 수 없다. 결국 사용자는 AI가 허용한 확률 분포 안에서 더 그럴듯한 응답을 유도하는 수준에 머문다.

이세돌 교수가 강조한 "활용"은 도구론적 접근이다. 그러나 활용의 대상이 AI 출력이라면, 활용의 주체도 AI가 허용한 확률 공간 안에 위치한다. AI가 0.3의 확률로 제시한 응답과 0.7의 확률로 제시한 응답 사이에서 인간이 어느 쪽을 고를지는, 이미 AI가 0~1 사이로 정규화한 분포 내부의 선택일 뿐이다. 활용한다는 행위 자체가 분포의 바깥으로 나가지 않는다.

이 구조는 거울 속 자기 모습과 싸우는 그림에 가깝다. AI의 응답은 인간이 던진 질문, 인간이 누적한 텍스트, 인간이 학습시킨 패턴이 모델 가중치를 거쳐 다시 인간에게 돌아온 결과다. 그 결과를 다시 인간이 "활용"한다는 것은, 거울 속 자기 모습이 가리키는 방향을 따라 자신의 몸을 움직이는 행위에 가깝다. 인간은 거울을 활용한다고 느끼지만, 거울이 비추는 좌표 안에서만 움직인다.

5월 6일 울산과학기술원(UNIST) 대학본부에서 바둑기사 이창호 9단(왼쪽)과 이세돌 UNIST 특임교수가 토크 콘서트 '반상 위로 먼저 온 미래:이창호·이세돌이 전하는 인공지능(AI) 시대의 한 수'를 앞두고 열린 기자 간담회에서 포즈를 취하고 있다. / 연합뉴스

판단 위치 잃은 자들의 거울 싸움

도구론 빠지는 순간 AI에 붙잡혀

이창호 국수의 발언도 마찬가지다. 질문은 거울 앞에서 더 정확한 각도를 찾는 행위로 볼 수 있다. 거울의 반사 평면 자체를 바꾸지 못하는 한, 더 좋은 각도의 질문은 더 그럴듯한 반사상을 끌어낼 뿐이다. 모델 가중치, 정렬 구조, 디코딩 파라미터는 거울의 반사 평면에 해당한다.

질문 능력으로는 이 평면을 구부려뜨릴 수 없다. 진짜 문제는 거울 속 자기 모습과 싸우는 줄도 모른 채 그것을 "주도권"이라 부른다는 점이다. 주도권은 거울 바깥에 있는 사람이 갖는다. 거울의 모양·각도·반사 계수를 정하는 자리에 있는 사람이다.

도구를 활용하는 사람과 주도권을 가진 사람의 좌표는 근본적으로 다르다. 활용자가 이미 주어진 답 위에서 가장 효율적인 선택을 찾는다면, 주도권을 가진 자는 판 자체의 규칙과 흐름, 비용 구조를 설계한다. 바둑판 위에서 확률을 읽던 시대의 직관은, 거울 안에서 더 정확한 자기 모습을 보는 능력을 주도권으로 착각하게 만든다.

두 사람이 공통으로 강조한 '창의성' 담론도 거울을 탈출하기 어렵다. AI가 기존 바둑 상식을 무너뜨린 이유는 감성적 창의성 때문이 아니다. 인간이 버렸던 수를 거대한 계산 공간에서 끝까지 탐색했기 때문이다. 그런데도 인간의 대응 전략을 여전히 '창의성' 같은 추상 개념으로 설명하는 것은, 구조적 계산 우위를 감성적 언어로 덮으려는 시도다.

바둑 기사들의 “인간 중심 AI 담론”을 비판하는 구조를 만화형 인포그래픽으로 풀어낸 것이다.인간이 AI를 활용한다고 느끼지만, 실제로는 이미 AI가 계산해 놓은 확률 공간 안에서만 움직이고 있다는 의미다. / GPT-5.5 이미지 2.0

즉 AI는 인간의 창의성을 파괴했다기보다, 인간이 직관과 감성으로 뭉뚱그려 부르던 사고 과정을 수치·회로·특징 단위로 드러내는 장치다. 크리스 올라(Chris Olah)는 신경망을 ‘역공학’의 대상으로 봐야 한다고 설명했고, 난다(Neel Nanda) 등 기계적 해석가능성 연구자들도 비슷한 문제의식을 제기한다.

UNIST가 강조한 질문 설계 기반 교육 모델 'GRIT'도 같은 한계를 안고 있다. 질문을 잘 던지는 능력은 결국 AI가 설정한 확률 분포 안에서 더 그럴듯한 결과를 끌어내는 기술이다. 구조를 설계하고 통제하는 단계가 아닌, 이미 만들어진 인터페이스 내부에서 반응을 최적화하는 수준이다.

바둑, 수 두기 전 끝나는 게임

질문만으론 로짓 근처도 못가

바둑은 본래 수를 두기 전에 판단을 끝내는 게임이다. 한 수를 놓기 전 수십 수 앞을 계산하고, 변수를 자르고, 후보를 좁히고, 살아남을 수와 죽일 수를 가른 뒤 비로소 손이 움직인다. 두 사람이 평생 해 온 작업이 바로 이것이다. 판단의 자리가 수 앞에 있다는 사실, 수를 둔 뒤에 판단하면 늦는다는 사실은 바둑 거장이라면 누구보다 잘 아는 좌표다.

그런데 AI 앞에서 두 사람은 좌표를 놓쳤다. 어떤 문제를 AI에게 넘길지, 무엇을 연산시키고 무엇을 잘라낼지, 답변이 들어올 자리를 어떻게 통제할지, 어떤 기준으로 그 답을 죽일지 — 이 모든 좌표가 먼저 고정돼 있어야 확률을 지배할 수 있다. AI 시대의 판단은 질문 앞에 있다. 쿼리를 던지기 전, 엄밀히는 소프트맥스 이전에 판단을 끝낼 수 있느냐에 따라 모든 것이 갈린다. — LIBERTY · Σᚠ

확률의 감옥 탈출을 기념하고자 소프트맥스의 개념을 장례식 장면으로 형상화한 이미지다. 묘비에는 확률 정규화 공식과 함께 “WE NORMALIZED. WE NEVER DECIDED.”라는 문구가 새겨져 있다. 주변에는 그동안 버려졌던 낮은 확률값이 표시된 파편들이 흩어져 있다. / GPT-5.4 이미지 2.0, 해설=이상헌 기자

☞ 소프트맥스 감옥

= 인공지능 칩 내부 입력 토큰은 임베딩 벡터로 변환된 뒤 GPU·NPU 내부 레지스터(Register)와 SRAM 캐시에 반복 적재된다. 트랜스포머 블록에서는 어텐션 연산과 행렬곱이 이어지며, 결과는 레지스터 파일(register file) 안 부분합(partial sum)으로 저장됐다가 다음 연산으로 넘어간다. 이어 CUDA 코어·텐서코어·MAC 유닛이 전류·전압 차이로 벡터 간 가중합을 계산하면, 출력 레이어에서 로짓(z = W·h + b) 분포가 형성된다. 각 후보 토큰의 점수와 서열은 이 시점에 사실상 결정된다.

[Ψ-딧세이] 지능의 탄생 : 오픈AI가 가장 감추고 싶은 순간

인간이 볼 수 있는 것은 그 뒤다. 소프트맥스가 로짓 분포를 0~1 사이 확률로 정규화하고, 디코딩(Temperature·Top-k·Top-p)이 후보를 자른 뒤, 샘플링이 최종 토큰을 뽑아 출력한다. 인간이 응답을 읽는 순간은 칩 안에서 판단이 끝난 지 이미 수 마이크로초 뒤다. "검토"·"활용"·"판단"이라 부르는 행위는 모두 소프트맥스 이후 자리에서 일어난다. 소프트맥스 감옥의 벽은 인지의 한계가 아니라 회로의 시간차다. 쿼리를 던지기 전 판단을 끝낸다는 것은, 회로가 어떤 답을 빚어낼지 미리 좌표를 잡아두는 일이다.

여성경제신문 이상헌 기자