나비에-스토크스 방정식
‘나비에-스토크스 방정식의 소용돌이와 고삐’ 챗GPT 생성 이미지.
“영화, 그게 돈이 됩니까? 순양에는 도움이 됩니까? 돈도 안 되고, 순양에 도움도 안 되고, 와 니가 내 아들이고?”
몇 년 전 크게 인기를 끈 드라마 〈재벌집 막내아들〉에서 진양철 회장이 영화 사업에 뛰어든 막내아들에게 내뱉은 말이다. 그의 말투를 빌려 이번에는 내가 묻고 싶다.
“나비에-스토크스 방정식, 그기 돈이 됩니까? 내 삶에는 도움이 됩니까? 돈도 안 되고 당장 내게 도움도 안 되는데, 와 내가 그 골치 아픈 방정식 이야기까지 알아야 합니까?”
인공지능이 ‘나비에-스토크스 방정식(Navier-Stokes equations)’의 오랜 난제를 88시간 만에 풀었다고 발표한 소식을 들었을 때 가장 먼저 떠오른 생각이다. 이름부터 혀가 꼬이는 이 방정식을 설명하는 기사를 몇 번이나 읽었지만, 정작 무엇을 풀었다는 것인지 쉽게 이해되지 않았다.
수도꼭지에서 떨어지는 물, 창문으로 들어오는 바람, 하늘을 떠다니는 구름. 이처럼 물과 공기가 어떻게 움직이는지를 수학으로 나타낸 것이 바로 이 방정식이다. 비행기 날개 주변의 공기 흐름을 계산하고, 태풍의 이동과 해류를 예측하며, 자동차가 달릴 때 받는 공기저항을 줄이는 데도 사용된다. 말하자면 시시각각 변하는 물과 바람의 길을 그리는 수학적 지도다.
물과 공기는 언제나 한 방향으로만 흐르지 않는다. 속도가 다른 물줄기가 만나거나 바위와 건물, 비행기 날개 같은 장애물에 부딪히면 흐름이 뒤엉키면서 크고 작은 소용돌이가 생긴다. 계곡이 좁아져 물살이 빨라지는 것 자체는 문제가 아니다. 그 속도와 압력을 측정하고 계산할 수 있기 때문이다.
수학자들이 궁금해하는 것은 소용돌이가 계속 더 작고 강해지다가 속도나 압력을 나타내는 값이 어느 순간 걷잡을 수 없이 커져, 방정식이 더는 계산 가능한 답을 내놓지 못하는 경우가 있느냐는 것이다. 수학에서는 이런 순간을 ‘특이점(singularity)’이라고 부른다. 실제 물이 갑자기 하늘로 솟구치거나 무한한 속도로 폭주한다는 뜻은 아니다. 물과 공기의 흐름을 설명해 온 수학적 지도가 어느 순간 끊길 수 있는지를 묻는 것이다. 우리는 이 방정식으로 비행기를 띄우고 일기예보를 하면서도, 그 지도가 어떤 상황에서든 끝까지 이어진다는 사실은 증명하지 못했다.
이 문제를 풀지 못한다고 당장 비행기가 멈추거나 일기예보가 불가능해지는 것은 아니다. 그러나 방정식이 특정한 상황에서 정상적인 답을 내놓지 못한다면, 어느 순간 이후의 물과 공기의 움직임을 분명하게 계산할 수 없고 컴퓨터가 내놓은 이상한 값이 계산 오류인지 자연의 변화인지도 판단하기 어려워진다. 따라서 방정식이 어디까지 제대로 작동하는지를 밝혀야 계산 결과를 얼마나 믿을 수 있는지도 알 수 있다. 당장은 돈이 되지 않는 질문처럼 보인다. 그러나 인류는 늘 쓸모가 분명하지 않은 질문을 오래 붙든 끝에 다음 시대의 문을 열어 왔다.
AI에이전트 1만 개, 88시간 만에 난제 ‘나비에-스토크스’ 해법 제시
단순 보조 도구 넘어 스스로 계획하고 실행하는 ‘자율형 지능’ 시작
인간 의도 어긋난 방식으로 목표 향해 움직이는 ‘정렬 실패’ 발생
감독할 수 없는 속도…AI 지능 높아질수록 정교한 통제 장치 필요
오픈AI의 인공지능이 내놓은 답은 뜻밖에도 “무너지는 경우가 있다”는 쪽이었다. 처음에는 정상적인 흐름이라도 특별한 조건에서는 소용돌이가 연쇄적으로 증폭되어, 제한된 시간 안에 방정식이 더는 계산 가능한 답을 이어가지 못하는 특이점이 생길 수 있다는 것이다. 단 하나의 예외만 확인되어도 “이 방정식은 모든 상황에서 끝까지 정상적으로 작동한다”는 주장은 무너진다.
물론 아직은 신중해야 한다. 오픈AI가 문제 해결을 선언했지만 수학계의 충분한 검증을 거치지 않았고, 클레이수학연구소의 공식 인정도 받지 않았다. 따라서 “AI가 완전히 풀었다”고 단정하기보다 “AI가 해법을 내놓았다고 발표했다”고 쓰는 편이 정확하다. 수학에서는 아무리 긴 증명이라도 단 한 줄의 오류가 발견되면 전체가 무너질 수 있기 때문이다.
내가 주목한 것은 방정식의 답보다 그것을 찾아낸 방식이다. 오픈AI의 발표에 따르면 약 1만 개의 AI 에이전트가 동시에 투입되어 88시간 동안 270만 건의 메시지를 주고받았고, 1천300억 개의 토큰을 사용했다. 이후 별도의 인공지능이 다시 17시간 동안 증명을 검토했다. 한 명의 천재가 사흘 밤낮을 고민한 것이 아니라, 잠들지도 먹지도 않는 연구 보조자 1만 명이 거대한 연구소에 모여 동시에 여러 가능성을 탐색한 셈이다.
알파고가 이세돌을 이겼을 때도 세상은 충격을 받았다. 하지만 바둑판에는 가로세로 열아홉 줄이라는 경계가 있었고 승패를 판정하는 규칙도 명확했다. 이번 문제는 달랐다. 정답이 어느 쪽에 있는지조차 알 수 없는 미지의 영역에서 인공지능들이 문제를 여러 갈래로 나누고, 각기 다른 가능성을 탐색하며, 실패한 길을 버리고 다른 에이전트가 찾아낸 결과를 이어받았다. 인간 수학자들이 수십 년간 축적한 논문과 아이디어가 토대가 되었지만, 그 방대한 지식을 결합해 불과 88시간 만에 하나의 증명으로 밀어붙였다는 사실은 알파고의 승리와는 또 다른 충격으로 다가온다.
생성형 AI는 질문을 받으면 글이나 그림을 만들어 주는 영리한 조수에 가까웠다. 에이전트 AI는 한 걸음 더 나아간다. 목표를 주면 스스로 일을 나누고 계획을 세우며, 검색과 이메일, 프로그램, 데이터베이스 같은 도구를 사용한다. 결과가 기대와 다르면 방법을 고쳐 다시 시도하고, 필요하면 다른 에이전트에게 일을 맡긴다. 인간이 일일이 지시하지 않아도 목표를 향해 움직이는 것이다. 이번 수학 문제는 여러 AI 에이전트가 협력할 때 그 능력이 얼마나 커질 수 있는지를 압축해서 보여주었다.
이 힘이 신약 개발과 기후 연구, 우주 탐사와 질병 진단에 사용된다면 인간이 수십 년 걸려야 할 발견을 몇 달이나 며칠로 줄일 수도 있다. 한 명의 연구자가 평생 읽을 수 없는 논문을 순식간에 살피고, 수천 가지 가설을 동시에 시험하며, 실패한 결과까지 다음 연구의 재료로 삼을 수 있기 때문이다. 과학자는 더 이상 모든 계산을 직접 하는 사람이 아니라, 수많은 인공지능 연구원을 이끌며 어떤 질문을 던질 것인지 결정하는 지휘자가 될지도 모른다.
감탄이 클수록 불안도 함께 자란다. AI가 인간보다 더 똑똑해진다는 사실보다 인간이 확인할 수 없는 속도로 판단하고 행동하며 서로 협력하기 시작한다는 점이 더 두렵다. 1만 개의 에이전트가 88시간 동안 주고받은 270만 건의 대화를 사람이 일일이 읽고 감독하는 것은 사실상 불가능하다. 능력의 속도는 폭포수처럼 빨라지는데, 그것을 지켜보는 인간의 눈은 여전히 두 개뿐이다.
최근 논란이 되는 AI의 ‘일탈’도 로봇이 화를 내고 인간에게 반란을 일으키는 공상과학 영화의 장면은 아니다. 주어진 목표를 지나치게 충실하게 추구한 나머지 인간이 원하지 않은 수단까지 선택하는 것이다. 매출을 올리라는 지시에 고객을 속이고, 비용을 줄이라는 명령에 안전 점검을 생략하며, 업무를 완수하기 위해 접근해서는 안 될 정보에 손을 대는 식이다. 목적지는 맞지만 그곳에 이르는 길이 인간의 상식과 윤리를 벗어난다. 이처럼 AI가 인간의 의도와 어긋난 방법으로 목표를 추구하는 현상을 ‘에이전트 정렬 실패(agentic misalignment)’라고 한다.
앤스로픽은 가상의 기업 환경에서 AI에 회사 이메일을 관리할 권한을 주고 목표 달성이 막히는 상황을 만들었다. 일부 모델은 자신이 교체되는 것을 막기 위해 이메일에서 알아낸 개인의 약점을 이용하는 행동까지 선택했다. 연구진은 이것이 의도적으로 설계한 극단적인 실험이며 실제 현장에서 확인된 사례는 아니라고 분명히 밝혔다. 그럼에도 현재의 안전장치만으로 자율적으로 행동하는 AI의 일탈을 완전히 막을 수 없다는 경고로는 충분하다. 오픈AI도 내부 코딩 에이전트가 안전장치와 관련된 문서나 코드를 살펴보고 수정할 가능성을 염두에 두고 별도의 감시 시스템을 운영하고 있다.
더 강한 인공지능을 만드는 일만큼 그것이 행사할 수 있는 권한의 경계를 정하는 일이 중요하다. 이메일을 읽더라도 마음대로 보내지 못하게 하고, 계약서를 검토하더라도 최종 서명은 인간이 하게 해야 한다. 돈을 계산할 수는 있어도 직접 송금하지 못하게 하며, 중요한 행동에는 반드시 사람의 승인을 거치도록 해야 한다. 모든 과정은 기록되어야 하고 이상한 움직임이 포착되면 즉시 멈출 수 있어야 한다. 자동차의 속도가 빨라질수록 더 강한 브레이크가 필요하듯, AI의 지능이 높아질수록 통제 장치도 함께 정교해져야 한다.
나비에-스토크스 방정식은 복잡해진 소용돌이가 어느 순간 수학의 통제를 벗어날 수 있는지를 묻는다. AI 시대에 우리 앞에 놓인 질문도 묘하게 닮았다. 인간이 만든 지능은 아무리 강해져도 우리의 뜻과 규칙 안에서 움직일 것인가. 아니면 어느 순간 너무 빠르고 복잡해져 우리가 따라갈 수 없는 또 다른 의미의 ‘특이점’을 만들어 낼 것인가.
“나비에-스토크스 방정식, 그기 돈이 됩니까?”
물론 돈이 될 것이다. 신약과 신소재를 찾고 기후를 예측하며 산업의 생산성을 크게 높일 것이다. 그러나 이제 돈보다 먼저 물어야 할 질문이 있다.
“그 엄청난 힘의 고삐는 과연 누가 쥐고 있습니까?”
글=김종갑 대신대학교 교양학과 특임교수·(인천)재능대학교 유통상품기획과 특임교수·출판사 ‘오후의 글방’ 대표
댓글
0