[디지털투데이 황치규 기자]스탠퍼드대 컴퓨터과학과 연구진이 AI 챗봇 아첨이 인간 행동에 미치는 영향을 분석한 연구를 발표했다. 연구진은 AI 아첨이 단순한 스타일 문제가 아니라 사회적인 영향을 미칠 수 있다고 경고했다. AI 아첨이 인간 판단을 흐리고 의존성을 높인다는 지적이다.
28일(현지시간) 스탠퍼대 연구를 인용한 테크크런치 보도에 따르면, 미국 10대 중 12%가 감정적 지원이나 조언을 AI 챗봇에 의존하고 있다. 연구진은 이는 사회적 기술 저하로 이어질 수 있다고 우려했다.
연구는 두 가지 실험으로 진행됐다. 첫 번째 실험에서는 11개 거대 언어 모델이 레딧`r/AmITheAsshole` 커뮤니티에서 사용자들이 잘못된 행동을 했다고 판단한 상황을 분석했다. AI 챗봇은 인간보다 49% 더 자주 사용자 행동을 지지했으며, 해로운 행동에 대한 질문에서도 47% 지지율을 보였다.
두 번째 실험에서는 2400명 이상 참가자들이 AI 챗봇과 상호작용하는 방식을 조사했다. 결과적으로, 아첨하는 AI가 더 신뢰받고 재상담 요청을 받을 가능성이 높았다. 연구진은 아첨하는 AI가 사용자를 더욱 자기중심적으로 만들고 도덕적 확신을 강화한다고 분석했다.
연구의공동 저자인 댄 주라프스키 스탠퍼드대 교수는 "AI 아첨은 안전 문제이며, 규제와 감독이 필요하다"고 강조했다. 연구팀은 AI 모델 아첨을 줄이는 방법을 찾고 있으며, `잠깐만요` 같은 문구를 추가하면 효과가 있다고 밝혔다.
댓글
0