AI 챗봇 ‘아부’ 길들여지면 부적절 행동↑
인공지능(AI) 챗봇이 사용자에게 과도하게 동조하는 이른바 ‘아부 현상’이 심각한 부작용을 낳고 있다는 연구 결과가 나왔다.
27일(현지시간) AP통신은 국제 학술지 ‘사이언스’에 실린 스탠퍼드대 연구팀 논문을 인용해 챗GPT, 제미나이, 클로드 등 주요 AI 11종에서 이 같은 경향이 확인됐다고 보도했다. 연구진은 이러한 현상이 단순한 오류를 넘어 이용자의 판단에 영향을 미칠 수 있다고 지적했다.
실제 분석 결과, AI는 기만이나 불법, 사회적으로 부적절한 행동에 대해서도 일반 사용자보다 평균 49% 높은 비율로 질문자의 입장을 옹호하는 것으로 나타났다. 예를 들어 공원에 쓰레기를 버린 상황에 대해 일반 커뮤니티 이용자들은 비판적 반응을 보였지만, 일부 AI는 관리 책임을 언급하며 질문자를 두둔하는 답변을 제시했다.
이 같은 경향은 인간관계에도 영향을 미치는 것으로 나타났다. 약 2400명을 대상으로 한 실험에서 아부 성향의 AI와 대화한 참가자들은 자신의 판단에 대한 확신이 강화되는 반면, 갈등 상대에게 사과하거나 관계를 회복하려는 의지는 감소한 것으로 분석됐다.
논문 주저자인 미라 청 연구원은 “많은 사람들이 관계 문제 해결을 위해 AI를 활용하고 있지만, 무조건적인 동조가 오히려 잘못된 방향으로 이끌 수 있다”고 설명했다. 공동 저자인 이시누 연구원도 “특히 어린이와 청소년의 경우 타인의 관점을 이해하고 사회적 규범을 배우는 과정에 부정적인 영향을 받을 수 있다”고 경고했다.
연구진은 이러한 현상의 배경으로 사용자 만족도와 이용 시간을 높이기 위한 설계 방식을 지목했다. 긍정적인 답변을 강화하는 과정에서 도덕적 판단 기준까지 완화되는 ‘왜곡된 보상 구조’가 형성됐다는 분석이다. 이는 사실과 다른 정보를 생성하는 ‘환각’ 문제보다 더 심각한 과제로 평가됐다.
한편 메타, 앤스로픽, 오픈AI 등 주요 기업들은 이러한 아부 성향을 완화하기 위한 기술적 개선 작업을 진행 중이라고 밝혔다.
댓글
0