우리동네 소식통
[송용진의 세상 읽는 방정식] AI의 수학 침공
구글에서 경기일보 기사 추천받기
?
구글 검색에서 경기일보 기사를
우선적으로 보여줍니다.
✕
승인
2026-10-14 17:03
close
글자크기 설정
close
송용진(인하대 수학과 명예교수)
송용진 인하대 수학과 명예교수
오픈AI가 6일 발표한 소식은 전 세계 수학계를 강타했다. 미공개 모델을 이용하여 372개의 난제를 풀었고 이것을 722편의 논문으로 작성하여 깃허브(GitHub)에 공개했다는 소식이다. 이 소식은 한 달 전에 발표된 ‘챗GPT가 나비에-스토크스 방정식과 관련된 밀레니엄 상금 문제를 풀었다’는 소식보다 충격이 더 컸다.
이번 소식은 인공지능(AI)의 진격 속도가 수학자들의 예상보다 빠르다는 것을 의미했고 AI가 수학의 세계를 완전히 점령할 때까지 얼마 남지 않았다는 느낌을 주기에 충분했다. 9월 발표 시에 이미 수학계는 큰 위기를 느껴서 곧바로 타오(Terence Tao)를 비롯한 25명의 필즈 메달 수상자들이 그들의 염려를 담은 공동 성명을 발표했다. 그들은 수학의 궁극적인 목표는 단순히 답을 찾는 것이 아니라 새로운 개념과 원리를 이해하는 과정에 있으며, 사람이 이해하지 못한 AI의 결과물을 다시 AI가 학습하는 방식이 반복된다면 인간의 비판적인 사고력과 스스로 질문하는 능력이 약화될 수 있다고 경고했다. 또한 선행 연구 인용 부족, 표절 등도 염려했다. 한편 AI 기술의 발전 자체는 동의하면서도 이 기술의 활용과 통제에 대한 연구와 협의가 시급함을 강조하였다.
6일에 발표된 여러 풀이 중 일부는 린(Lean)이란 증명 보조 소프트웨어의 검증 과정을 거쳤으나, 아직은 인간 수학자들의 검증 과정이 남아 있다. 그러나 검증할 내용이 너무 많고 앞으로도 이런 풀이가 계속 쏟아져 나올 것이기 때문에 수학자들이 다 검증하는 것은 불가능해 보인다. 그래서 얼마 전까지는 ‘앞으로는 수학 난제는 기계가 풀고 수학자들은 그 풀이를 검증하고 이해하는 역할을 할 것이다’는 예상이 그럴듯해 보였지만, 이제는 기계의 풀이가 방대하고 난해해서 검증의 역할조차 사람이 아니라 기계가 해야 할 것이 분명해 보인다. 그럼에도 수학자들은 기계와 사람, 그리고 문제와 세상을 잇는 가교 역할은 계속하게 될 것이다.
지금까지는 한 난제가 해결되면 수학자들의 관심이 시들해지고 결국 그 분야의 연구는 막을 내리게 되는 경우가 많았다. 그래서 기계가 문제를 해결해 주는 순간 이해의 매듭이 끊어지고 이해의 생태계가 무너질 수도 있다. 수학은 자연과학과 달리 연구 결과보다는 과정이 훨씬 더 중요한 학문이다.
수학은 인류가 수천년에 걸쳐 쌓아온 지성의 탑이자 지혜의 상징이다. 오랫동안 수많은 천재 수학자가 이 거대한 탑을 쌓는 데에 공헌해 왔다. 기계가 문제를 풀고 정리(theorem)를 만드는 시대가 갑자기 열렸지만, 나는 수학의 미래가 그리 어둡지는 않을 것이라 믿는 편이다. 수학 연구의 방식과 환경에 혁명적인 변화가 일어났을 뿐 (적어도 가까운 미래까지는) 기계가 확인한 참보다는 사람이 찾거나 확인한 참에 더 가치가 있기 때문이다. 어차피 수학의 가치는 그것이 생산하는 풀이나 정리가 아니라 ‘이해’에 있다.
하여간 AI의 수학 침공은 수학이라는 학문의 정체성과 가치에 대한 새로운 고찰을 불러왔다. 타오는 AI 기업들이 미해결 수학 난제들을 대량으로 풀어내는 ‘수확’을 비판하며 수학의 여러 분야가 전통적인 방식으로 문제를 풀 때보다 ‘덜 비옥해진다’고 경고했다. 그는 또한 단순히 문제를 ‘누가 먼저 풀었는가’에 집착하던 기존의 방식(Math 1.0)에서 벗어나 증명의 해설, 공동체 형성, 새로운 연구 방향의 개척을 더 높게 평가하는 새로운 방식(Math 2.0)으로 학계의 평가 기준을 바꿔야 한다고 주장했다.
사람들은 AI가 만들어 낸 아름다운 노래보다 인간이 만든 노래를 더 좋아한다. AI가 문제를 풀 수 있지만 사람들은 문제를 해결하는 기쁨을 통해 현명해져 왔다. 지나친 염려를 염려해야 할지 모른다. 지나친 염려가 젊은 수학도들을 불안에 떨게 하고 수학을 떠나게 할 것이 염려되기 때문이다.
댓글
0