[월요논단] 괴벨스의 선동술과 알고리즘의 폐해

SNS 숏폼 비판적 사고 마비 심각

정보 접할땐 ‘왜’ 끊임없이 물어야

개인적 문해력 한계 법·제도 필요

LA 배상 판결, 호주 청소년 차단

김민배 인하대 법학전문대학원 명예교수

‘거짓말도 100번 반복하면 진실이 된다’. 나치독일의 괴벨스가 사용했던 말이다. 그는 이성보다 감정을 이성적 논리보다 단순한 반복을 선택했다. 히틀러와 괴벨스가 활용한 선동술의 핵심은 라디오를 통해 단순한 메시지를 무한 반복하는 것이었다. 동시에 제1차 세계대전의 패배로 인한 극심한 고통과 패전의 상처를 탓할 증오의 표적을 설정했다. 반유대주의와 반공산주의 그리고 반베르사유조약을 내세워 대중의 분노를 한곳으로 결집했다. 이성적인 토론은 거부되었고, 공포와 분노라는 원초적 감정을 일으켜 정치와 권력을 흔들어 댔다. 광장의 선동을 통해 집단적 광기로 몰아갔던 제2차 세계대전의 결과는 참혹했다.

그 악마의 선동술이 사라지기는커녕 부활했다. 알고리즘으로 변신하여 우리 삶과 민주주의 토대를 휘젓고 있다. 오늘날 우리의 삶과 사고를 위협하는 것은 나치 제복을 입은 선동가가 아니다. 우리가 매일 마주하는 소셜미디어(SNS)의 알고리즘이다. 그것이 현대판 괴벨스의 역할을 하고 있다. 괴벨스가 국가 조직을 동원해 정보를 통제했다면, 현대의 알고리즘은 스마트폰과 컴퓨터를 통해 정보를 개인에게 끝없이 주입한다. 현재 유튜브의 쇼츠(Shorts)나 인스타그램과 페이스북의 릴스(Reels)와 같은 1분 내외의 숏폼 영상은 괴벨스의 단순화 원칙을 극단적으로 계승하고 있다. 맥락을 다 자른 채 자극적인 발언으로 만든 ‘악마의 편집’은 대중의 비판적 사고를 마비시킨다.

‘한 문장이면 범죄자를 만들 수 있다’고 했던 괴벨스의 호언장담이 오늘날 짧은 영상 하나로 누군가의 인격을 파괴하거나 죽음으로 몰아가는 도구로도 사용되고 있다. 터무니없는 음모론이나 자극적인 가짜 뉴스가 SNS에 올라오면 알고리즘은 이를 선호하거나 좋아할 만한 사람들에게 계속해서 보낸다. 알고리즘은 특정 세대, 특정 지역, 특정 계층을 목표로 한다. 복잡한 사회 문제를 정책이나 정치적으로 해결하기보다 저들 때문이라는 증오를 확산시켜, 지지층을 결집하는 방식은 괴벨스가 유대인을 악마화했던 수법과도 닮아있다. 분노는 자비보다 대중을 설득하는 데 훨씬 효과적이라는 나치의 선동술이 알고리즘을 기반으로 더 활개를 치고 있다.

심리학자 레너드 두브(Leonard Doob)는 괴벨스의 선동술이 단순히 악한 천재성에서 나온 것이 아니라 철저하게 계산된 심리학적 결과임을 밝혀냈다. 선동가는 우리가 생각하게 만드는 것이 아니라 우리가 특정 방식으로 느끼고 행동하도록 환경을 조성한다는 것. 이른바 가스라이팅, 여론 조작, 에코 체임버가 그것이다. 인터넷과 미디어 그리고 SNS 환경에서 자신의 신념이나 가치관과 일치하는 정보만 반복해서 접하게 되면서, 자신 생각이 옳다고 확신하게 되는 ‘생각의 감옥’에 가두어 둔다.

정보 과잉과 편향의 시대, 우리는 어떻게 현대판 괴벨스의 덫인 알고리즘에서 벗어날 것인가. 괴벨스는 질문하지 않는 대중을 좋아했다. 오늘날의 알고리즘 역시 그저 ‘좋아요’만 누르기를 원한다. 그러나 정보를 접할 때 ‘누가, 왜, 지금 이것을 하는가’를 끊임없이 물어야 한다. AI와 알고리즘의 시대에 맞서야 하는 깨어있는 시민의 의무는 생각과 질문의 권리를 행사하는 것이다. 하지만 개인적인 미디어 문해력으로는 한계가 있다. 법과 제도로 막아내야 한다.

최근 미국 LA 법원은 이윤을 얻기 위해 중독적 알고리즘을 만든 메타와 구글에 총 600만달러 배상 판결을 내렸다. 유튜브와 인스타그램 등의 유해성을 인정한 것이다. 한국도 알고리즘의 폐해와 SNS를 통해 유통되는 불법 콘텐츠 문제가 심각하다. 호주는 16세 미만 청소년의 SNS 계정을 차단하였다. 프랑스와 영국도 법령을 준비 중이다. 일부에서는 미국과 무역 마찰을 우려하면서 규제에 신중할 것을 주문하고 있다. 그러나 빅테크 플랫폼의 유해성에 대한 강력한 대책은 더 미룰 수 없다. 왜 한국의 청소년들이 보호받지 못해야 하는가. 민주주의의 토대를 위협하고 있는 극단적인 유튜브와 알고리즘을 통제하지 않는다면 제2의 히틀러와 괴벨스의 등장을 막을 수 없다는 현실을 직시할 때다.

/김민배 인하대 법학전문대학원 명예교수

<※외부인사의 글은 경인일보의 편집방향과 다를 수도 있습니다.>