[한마당] 초지능

남혁상 논설위원

인간의 지능과 창의성은 오랫동안 난공불락의 영역으로 여겨졌다. 그러나 인공지능(AI)은 그 경계를 하나씩 넘어서며, 우리가 당연하게 믿어왔던 선을 지워왔다. 충격은 다른 분야에서 다른 방식으로 다가왔다.

2016년 인간과의 바둑 대결에서 알파고의 압도적 승리는 그 시작을 알렸다. 인간 최고수조차 이해하지 못한 수가 승부를 바꾸면서 직관과 창의성이라는 인간 고유의 영역이 더 이상 절대적 기준이 아니라는 게 드러났다. 4년 뒤 알파폴드는 생명과학의 가장 깊은 신비인 단백질 구조의 비밀을 단숨에 해결했다. 과학적 발견의 속도와 방식이 바뀔 수 있음을 보여준 것이다. 불과 2년 뒤 챗GPT는 사람과 구분하기 어려운 언어 능력으로 글을 쓰고 논리를 전개하며, 전문직 영역까지 파고들 수 있다는 불편한 진실을 드러냈다.

이 흐름 위에 최근 등장한 것이 앤트로픽의 ‘미토스(Mythos)’다. 이번에는 예측과 분석이 아니라 시스템의 약점을 찾아내고 그것을 연결해 실제 침투까지 이어가는 능력이다. 오랜 시간 발견되지 않았던 결함을 찾아내고, 공격 경로를 스스로 구성하는 단계라는 점에서 세계 보안 업계가 충격에 빠졌다. 개발사조차 공개 범위를 제한했고 각국 정부는 대응 점검에 들어갔다. 이성과 논리를 뜻하는 ‘로고스’와 대비되는, 세계를 이해하는 근원적 서사라는 뜻의 미토스는 이런 흐름을 상징적으로 보여준다. 보이지 않던 구조를 읽어내고, 그 구조를 다시 써 내려가는 단계로의 진입을 예고한 셈이다.

많은 전문가들은 한 인간이 아니라 인류 전체의 지능을 넘어서는 ‘초지능(superintelligence)’의 출현이 멀지 않았다고 전망한다. 스스로 학습하고 개선하며 새로운 전략과 기술을 만들어내는 AI가 등장한다면 초지능이 갖는 능력은 인간의 통제 범위를 벗어날 가능성이 크다. 이미 우리는 그 전조를 여러 차례 목격해왔다. 매번 충격은 “아직은 아니다”라는 믿음을 깨는 방식으로 다가왔다. 그리고 그 간격은 점점 더 짧아지고 있다.