'인지적 항복' 현상...인간 판단력 약화로 이어져
美 펜실베이니아대 연구팀, 심리학적으로 규명
인간 의사결정에 새로운 유형 '인공 인지' 등장
실험 결과...AI 오답 제시해도 80% 그대로 수용
시간 압박 클수록 AI 추론 교정 사용자 비율 '뚝'
AI(인공지능) 그래픽=뉴시스
[초이스경제 고계연 기자] 인공지능(AI)에게 자신의 사고를 맡겨버리는 이른바 '인지적 항복(cognitive surrender)' 현상을 심리학적으로 규명한 연구가 나왔다. AI 활용이 일상으로 번진 상황에서, 인간의 판단력 약화로 이어질 수 있다는 경고여서 주목된다.
미국의 기술 전문 매체 아르스테크니카는 3일(현지시간) 미 펜실베이니아대 연구팀의 분석을 인용해 "인지적 항복이 AI 사용자들의 논리적 사고를 포기하게 만든다"고 전했다. 인지적 항복은 사람이 AI나 알고리즘이 제시한 답을 깊이 검토하지 않은 채 그대로 받아들이는 심리적 경향을 뜻한다.
연구팀이 나눈 AI 이용자는 두 그룹이다. AI를 강력하지만 불완전한 도구로 보고 결과를 검토·검증하는 유형과, AI를 전지전능한 기계로 여기고 비판적 사고를 하지 않는 유형이다.
연구팀은 인간의 의사결정 방식을 기존의 두 범주, 즉 빠르고 직관적인 '시스템1'과 느리고 분석적인 '시스템2'에 더해, AI가 새로운 세 번째 유형인 '인공 인지(artificial cognition)'를 탄생시켰다고 주장한다. 인공 인지란 인간의 내면적 추론 없이 알고리즘의 외부 판단에 결정을 맡기는 방식이다.
연구팀은 인지적 항복을 측정하기 위해 '인지반응테스트(CRT)'를 활용했다. 직관적 사고로는 오답을 유도하고 숙고적 사고로는 비교적 쉽게 풀 수 있는 문제들로 구성된 테스트다. 참가자들에게는 절반 정도의 확률로 오답을 제시하도록 조작된 거대언어모델(LLM) 챗봇 이용 권한이 주어졌다.
실험 결과는 충격적이었다. AI를 이용한 그룹은 AI가 오답을 제시했을 때도 80%의 확률로 그 답을 그대로 수용했다. 정답일 때는 93%가 AI 답변을 따랐다. 놀랍게도 AI가 절반 확률로 오답을 제시하는 상황에서도 AI 이용자들의 자신감 점수가 비이용자 대비 11.7%나 높게 나타났다.
외적 요인도 인지적 항복에 영향을 미쳤다. 정답에 소액 보상과 즉각적 피드백을 제공하면 오류 있는 AI를 교정할 확률이 19%포인트 늘었다. 반면 30초의 시간제한을 두자 교정 시도는 12%포인트 감소해, 시간 압박이 클수록 내부 검증이 약화되는 것으로 나타났다.
1372명이 참여한 9500여 건의 시험에서 참가자들은 오류 있는 AI의 추론을 73.2% 확률로 수용했으며, 스스로 교정한 비율은 19.7%에 그쳤다. 유동 지능이 높은 참가자는 AI 의존도가 낮았지만, AI를 권위적으로 인식한 이들은 오답에 더 쉽게 끌려갔다.
연구팀은 AI에 추론을 맡기는 순간 인간의 사고 수준은 AI의 성능을 넘을 수 없게 된다며, 판단의 최종 책임은 도구가 아닌 사용자 인간에게 있다고 강조했다.
댓글
0