박은숙 원광대학교 명예교수, 前 부총장
처음 접했을 때, AI는 빠르고, 유창하며, 무엇이든 알고 있는 듯한 존재였다. 질문을 던지면 막힘없이 답이 돌아왔고, 문장을 읽어보면 사람이 쓴 글처럼 자연스러웠다. 마치 오랫동안 지식을 차곡차곡 쌓아온 전문가와 대화하는 느낌이었다. 그래서 우리는 어느 순간 AI의 답을 ‘정답’처럼 받아들이기 시작했다. 그렇다면 우리는 왜 이렇게 쉽게 AI를 믿게 되는 것일까. 우리는 이미 하루에도 몇 번씩 AI에게 묻고, 그 답을 검증하기보다 사용하는 데 익숙해진 것은 아닐까.
처음엔 AI를 몰라서 시작했는데, 최근에는 AI와 많은 시간을 보내고 있다. 요즘 간단한 질문은 채팅창을 열어 음성으로 묻고 답을 들으며, 필요하면 카메라로 사물을 비추며 대화를 이어가기도 한다. 며칠 전, 100여 개 고등학교를 방문한 자료를 정리하던 중이었다. 나는 교표를 AI에게 보여주며 학교 이름을 물었다. AI는 지체 없이 A고등학교라고 답했다. 빠르고 정확한 답변에 감탄이 절로 나왔다. 그 지역 고교 홈페이지에 일일이 들어가지 않아도 되었기에, 시간이 많이 절약되었다. 이어 다른 고교의 교훈을 보여주며 학교명을 물었다. 그런데 AI는 이번에도 A고등학교라고 답했다. 나는 교표는 어느 학교인지 몰랐지만, 교표와 교훈은 분명 다른 학교라는 것을 알고 있었기에 AI의 답이 틀렸음을 알았다. “왜 같은 학교라고 하느냐”고 묻자, 그제야 AI는 “말씀을 듣고 보니 제가 틀렸습니다”라고 답했다. 놀라운 것은 AI의 답이 오답이라는 것보다, 틀린 답을 너무도 자연스럽고 확신에 찬 어조로 말한다는 점이었다.
왜 이런 일이 발생할까. 많은 사람들이 AI를 ‘생각하는 존재’로 착각하지만, 오늘날 우리가 사용하는 AI의 실체는 학습된 방대한 텍스트 데이터를 바탕으로 문장을 생성하는 ‘거대 언어 모델(Large Language Model, LLM)’이다. 이 시스템은 사실 관계를 이해하거나 가치를 판단하지 못한다. 다시 말해, AI는 진실을 아는 것이 아니라 알고리즘에 따라 ‘그럴듯해 보이는 답’을 만들어내는 시스템이다. 그래서 AI는 틀릴 수 있는 것이 아니라, 틀릴 수밖에 없다. 정보가 불완전하거나 맥락이 애매할 때, AI는 “모르겠다”고 말하기보다 거대언어모델 특유의 확률적 계산을 통해 가장 그럴듯한 답을 만들어낸다. 그리고 그 답은 너무도 자연스럽기 때문에 사람을 쉽게 설득한다. 이 점이 AI의 가장 큰 강점이자 동시에 가장 위험한 지점이다.
AI의 이러한 특성인 할루시네이션(Hallucination)은 일상적인 정보에서는 큰 문제가 아닐 수 있다. 그러나 전문 영역으로 들어가면 이야기는 달라진다. 가령 영양사인 내가 환자 식단을 작성할 때, AI가 추천하는 식단은 겉보기에는 완벽한 영양 균형을 갖춘 것처럼 보인다. 문제는 여기서 시작된다. AI는 환자의 병력, 복용 중인 약물, 알레르기 반응, 개인의 대사 특성까지 맥락적으로 이해하지 못한 채, 일반화된 데이터에 기반해 식단을 제시한다. 그 결과, 특정 식재료가 환자에게 부정적인 반응을 일으킬 가능성이 있음에도 불구하고 ‘적절한 식단’으로 제안될 수 있다. 이 과정에서 ‘그럴듯한 균형’은 실제 환자에게는 위험한 선택으로 이어질 수 있다. 즉, AI의 추천 → 사용자의 신뢰 → 검증 생략 → 잘못된 식단 적용이라는 흐름이 형성되며, 그 결과는 곧바로 환자의 건강 문제로 연결될 수 있다. 영양사가 매 끼니 식단을 짤 때 수많은 임상 정보와 식재료의 특성, 환자의 상태를 교차 검증하는 이유는, 식사가 누군가에게는 건강을 위협하는 요소로 작용할 수 있기 때문이다. 따라서 AI의 ‘그럴듯한 식단’에 전문가의 검증이 빠진다면, 그것은 단순한 오류가 아니라 실제 위험으로 전환된다.
문제는 우리가 이러한 특성을 충분히 이해하지 못한 채 AI를 사용한다는 데 있다. 인간은 틀린 답을 할 때 망설이지만, AI는 틀리면서도 망설이지 않는다. 단정적인 태도는 신뢰를 만들고, 그 신뢰는 의심을 약화시킬 수 있다. 특히 판단 기준이 부족한 경우일수록 이러한 확신에 쉽게 영향을 받게 된다. 우리는 AI의 ‘그럴듯함’에 설득되는 것이다.
이제 우리는 AI를 대하는 태도를 바꿔야 한다. AI를 정답을 주는 기계가 아니라 생각을 돕는 도구로 이해해야 한다. AI의 답은 출발점일 수는 있지만 결론이 되어서는 안 된다. 반드시 확인하고, 비교하고, 검증하고, 스스로 판단하는 과정이 필요하다. AI 시대에 필요한 것은 더 많은 정보를 얻는 것이 아니라, 더 깊이 판단하는 것이다. AI는 계산한다. 그러나 판단하는 것은 결국 인간이다. 생각하지 않는 존재와 함께 살아가는 시대, 더 깊이 생각하는 것은 우리 인간의 몫이다. AI를 잘 쓰는 사람은 AI의 답을 믿는 사람이 아니라, 그럴듯함 너머를 의심하고 정확하게 판단하는 사람이다.
박은숙 원광대학교 명예교수, 前 부총장
박은숙 원광대학교 명예교수
댓글
0