[온누리] 사유를 넘겨버린 시대, 우리는 무엇을 잃고 있는가?

1942년, 아이작 아시모프(Isaac Asimov)는 「Runaround」에서 로봇이 인간을 해치지 못하도록 세 가지 원칙을 제시했지만, 80년이 지난 지금 우리는 오히려 인간이 AI에 종속되는 방향으로 나아가고 있다. 기계는 인간보다 아래에 있고, 인간의 명령을 따르며, 인간을 해치지 않는다는 전제. 그 단순한 규칙은 오랫동안 기술을 통제할 수 있다는 믿음의 근거였다. 우리는 그 위에 안심하고 기술을 쌓아 올렸다. 하지만 지금 우리가 마주한 인공지능은 그 전제 자체를 흔들고 있다. 이제 AI는 단순히 팔과 다리를 움직이는 기계가 아니라, 문장을 만들고 판단을 대신하는 존재가 되었다.

문제는 여기서 시작된다. 기계가 인간을 다치게 할 가능성보다 인간이 스스로 생각하지 않게 되는 상황이 더 빠르게 확산되고 있기 때문이다. 우리는 이미 그 변화를 일상에서 경험하고 있다. 보고서를 쓰기 전에 AI에게 묻고, 결정을 내리기 전에 AI의 답을 확인한다. 처음에는 참고였지만, 점점 기준이 된다. 그리고 어느 순간, 질문은 줄어들고 수용이 늘어난다. “AI가 이렇게 말했으니까 맞겠지.” 이 짧은 문장은 생각의 편의를 넘어, 판단의 위임을 의미한다. 물론 인간은 늘 도구를 써왔다. 계산기와 검색엔진이 사고를 확장해온 것처럼, AI도 그런 도구 중 하나일 수 있다. 하지만 지금의 변화는 다르다. 이전의 도구는 ‘생각을 돕는 도구’였지만, 지금의 AI는 생각을 대신하는 도구로 빠르게 이동하고 있다. 문제는 그 속도가, 우리가 그 변화를 인식하는 속도보다 빠르다는 점이다. 이쯤에서 질문을 바꿔야 한다.

AI가 위험한가가 아니라, 이 기술이 인간의 판단 능력을 약화시키고 있지는 않은가?. 그동안 ‘안전’은 주로 물리적 위험을 의미했다. 기계가 사람을 다치게 하지 않도록 만드는 것. 하지만 지금의 위험은 눈에 보이지 않는다. 편향된 정보가 반복되고, 단순한 답이 복잡한 현실을 대신하고, 생각하는 과정이 생략된다. 이것은 사고가 아니라, 이미 시작된 붕괴의 한 장면이다. 그래서 이제 필요한 것은 새로운 질문이다. ‘기계의 안전’이 아니라 ‘지능의 안전’이다. 기술 기업들은 이미 대응을 시도하고 있다. 인공지능이 스스로 더 바람직한 답을 선택하도록, 윤리 기준이나 원칙을 학습시키는 방식이다. 겉으로 보면 진전처럼 보인다. 그러나 여기에는 불편한 질문이 따라붙는다. 그 기준은 누가 정하는가?. 무엇이 ‘바람직한 답’인지 결정하는 순간, 기술은 중립을 벗어난다. 그 선택은 결국 특정한 가치와 관점을 반영할 수밖에 없다. 문제는 그 과정이 충분히 공개되지 않는다는 점이다.

더 심각한 문제는 따로 있다. 이 모든 변화 속에서 책임이 어디로 가고 있는가다. 기술은 점점 더 강력해지지만, 그 결과에 대한 책임은 흐려지고 있다. 기업은 “모델의 한계”를 말하고, 사용자는 “AI가 그렇게 말했다”고 말한다. 그 사이에서 판단의 주체는 사라진다. 그래서 지금 필요한 것은 기술에 대한 낙관도, 공포도 아니다. 책임을 다시 분명히 하는 일이다. AI를 만드는 사람은 어떤 기준으로 답을 만들고 있는지 설명해야 한다. AI를 사용하는 사람은 그 답을 그대로 받아들이지 않을 책임을 가져야 한다. 그리고 인간과 함께 움직이는 기계에는, 어떤 상황에서도 사람을 해치지 않도록 하는 확실한 안전장치가 있어야 한다. 지능은 틀릴 수 있다. 하지만 안전까지 틀려서는 안 된다. 아시모프의 시대는 끝난 것이 아니다. 다만 그 시대의 낙관은 더 이상 충분하지 않다.

이제 우리는 기계가 인간을 공격할까를 걱정하기보다, 인간이 스스로 생각하는 능력을 얼마나 내주고 있는지를 더 경계해야 한다. 편리함은 늘 대가를 요구한다. 지금 우리가 지불하고 있는 대가는 시간이나 노동이 아니라, 판단과 사유의 일부일지도 모른다. 그리고 그 대가는, 생각보다 늦게 드러난다. / 강윤정(교수·원광대학교 자율전공학부)