[공감]인간인 난 몰라도 컴퓨터인 넌 그러면 안 되지

|

주한나 전 미국 마이크로소프트 연구원·데이터 과학자

AI 팀에서 일하면서 챗GPT의 폭발을 한복판에서 겪었다. MS의 AI 팀에 있었던 나는 생성형 AI를 많이 다루게 되면서 그에 따른 부작용으로 가장 가까운 존재에게 배신당한 듯한 느낌에 사로잡혔다.

평생 개발자로 일하면서도 적성에 맞지 않는다며 투덜거리긴 했으나 그래도 오래 함께해온 동반자로서 컴퓨터 시스템을 존중해온 이유가 있었다. 바로 ‘결정성’이다. 간단히 말하면 전자계산기에 1+1을 입력하면 언제나 2가 나온다는 확실성이다. 이것은 내가 물구나무를 선 채 1+1을 입력하든, KTX 안에서 흔들리며 타이핑을 하든 결과는 같았다. 그런 결정성이 좋았다. 인내심 부족하고 변덕스러운 내가 어떻게 바뀔지 몰라도, 내가 만들어놓은 로직은 언제나 쓰인 그대로 실행되고 결과 역시 변하지 않을 거라는 확신이 좋았다.

그런데 그랬던 그가 변했다. 생성형 AI는 비결정성으로 악명이 높다. 같은 질문을 해도 어제와 오늘의 답이 달라질 수 있다. “이는 모델이 단순히 하나의 정답을 꺼내는 방식이 아니라, 학습한 수많은 패턴을 바탕으로 답을 만들어내기 때문이다. 그래서 입력이 같아도 조금씩 달라질 수 있으며, 이것이 생성형 AI를 유연하고 창의적으로 만드는 동시에 결과의 일관성과 재현 가능성을 어렵게 만드는 특징이기도 하다”고 방금 챗GPT가 이렇게 설명했다.

그런 생성형 AI를 평가해야 하는 개발팀의 내 입장에서 보면, 그야말로 미치고 환장할 노릇이었다. 같은 질문에도 답은 매번 달랐다. 마치 아무리 연습한 피아노 곡이라도 연주할 때마다 미묘하게 달라지듯, 어떤 때는 정확하고 어떤 때는 어긋났다.

“아니, 너는 그러면 안 되지. 사람인 나는 컨디션 따라서 달라질 수 있지만, 너는 그러면 안 되지. 내가 너의 결정성, 그거 하나 정말 좋아했는데 네가 나한테 그러면 안 되지. 어떻게 컴퓨터 시스템이 그렇게 변할 수 있니!”

AI 모델을 다루면서 의인화를 경계해야 한다는 방침을 잘 알고 있지만, 배신당한 나는 그 선을 넘을 수밖에 없었다.

“나는 사람이니까 그때그때 달라질 수 있지만, 너는 그러면 안 되지. 사람은 바로 그 ‘결정성’을 목표로 너를 만든 존재인데, 네가 그렇게 행동하면 세상에 정말 믿을 게 없잖니. 내로남불처럼 들릴지 모르지만, 원래 창조주와 피조물 사이의 갑을관계란 그런 법이란다.”

한때 테스트 자동화 시스템을 만들었던 나여서 더 그랬는지도 모른다. 시스템이 다운되면 그것은 준비하지 못한 내 프로그램의 잘못이 확실하다. 그 확실성이 나는 좋았다. 문제가 생기면 원인을 추적해 흐름을 파악하고 고칠 수 있다는 점이 좋았다. 그렇게 보면, 애초에 적성이 없었다고 단정하기도 어려운 일이었는지 모른다.

그런데 생성형 AI에서는 그런 확실성이 통하지 않는다. 정확하게 어느 지점에서 잘못됐는지, 어떻게 고쳐야 하는지가 확실하지 않다. 고치라고 말로 지시하면 “어이쿠 잘못했습니다”라고 답하지만, 실제 고쳐질지는 알 수 없다. 예컨대 독도를 한국 땅이 아니라고 답해서 내가 화를 내면 다음에는 한국 땅이라 말할지 모른다. 그러나 일본 국무성이 묻는다면 일본 땅이라고 답할지도 모른다. 그런 불확실성이, 어쩌면 인간다움에 가까운 그 속성이, 그게 싫었다.

그렇게 큰 배신감을 느낀 나는 AI 시스템 평가에 점점 시들해졌다. 지금 당장은 옳게 답하더라도, 테스트를 다시 돌리면 달라질 수 있다는 사실에 힘이 빠졌다. 거기에 쏟아붓는 토큰이 아깝게 느껴졌다. AI의 상태를 들여다보며 도대체 왜 이번에는 다른지 따져보는 일도, 변심한 이를 붙잡고 이유를 묻는 것처럼 고깝게 다가왔다.

나와 컴퓨터 시스템의 25년 관계는 그렇게 파탄이 났다.

주한나 전 미국 마이크로소프트 연구원·데이터 과학자