[4월2일] SNS의 '양극화'를 완화할 AI...그리고 '획일화'라는 함정

메타와 구글의

청소년 문제를 재판한 결과

가 나온 뒤, 최근 소셜 미디어와 AI를 비교하는 사례가 늘고 있습니다. 지난 28일에는

파이낸셜 타임스(FT)

가 칼럼을 통해 이를 분석했습니다,

소셜 미디어와 AI는 '정보 환경의 거대한 변화'를 일으켰다는 점에서 큰 의미를 갖습니다. 우선 소셜 미디어는 TV와 라디오 등 진입 장벽이 높아, 일부 전문가와 엘리트들의 의견을 반영했던 독점 현상을 무너뜨렸습니다. AI도 사용자의 질문 의도를 파악해 수만개의 검색 결과 대신 하나의 맞춤형 답변을 생성, 정보 탐색에 드는 시간과 인지적 비용을 획기적으로 낮췄습니다.

그러나 둘의 차이는 분명하다고 지적했습니다.

소셜 미디어 기업들은 관심을 통해 수익을 창출하는데, 이는 실제로는 진실보다는 선정적이고 자극적인 콘텐츠에 보상을 주는 것과 마찬가지라는 말입니다. 그래서 이들은 사람들이 게시물을 올리는 중립적인 플랫폼일 뿐이라는 변명을 내세워 유해하거나 허위적인 정보에 대한 책임을 회피해 왔다고 지적했습니다.

그 결과로, 소셜 미디어는 양극화를 부추기는 원인으로 꼽혔습니다. 실제로 일부 SNS에서는 극우와 극좌가 나눠 상대를 맹렬하게 비난합니다. 머스크 CEO의 트위터 인수 목적이 '우파적 가치 회복'에 있었다는 평가도 지배적입니다.

그러나 AI는 양극화를 완화한다고 봤습니다.

영국 철학자

댄 윌리엄스

와 미국 작가 딜런 매튜스 등의 주장에 따르면, AI는 수많은 데이터 속에서 중간 지점, 즉 인터넷에서 합의된 사실을 찾아가는 '수렴(Convergence)'의 특성을 가집니다.

즉 소셜 미디어는 진입장벽이 낮아 다양한 목소리를 내게 하지만, 동시에 선정적이고 자극적인 콘텐츠를 증폭시켜 전문가에 대한 불신과 사회적 분열을 초래합니다. 반면, AI는 정확성이라는 목적을 위해 객관적 현실과 합의를 지향한다는 것입니다.

하지만, AI는 동시에 과거의 TV나 라디오와 같이 공급자의 진입장벽이 높습니다. 그리고 AI가 어떤 답을 내놓느냐에 대한 필터링은 대형언어모델(LLM)을 개발하거나 서비스하는 기업의 결정에 달렸습니다. 그 좋은 예가 머스크 CEO의 '그록'입니다.

윌리엄스는 이를 "LLM이 근본적으로 기술 관료화를 초래, 소셜 미디어의 급진적인 민주화 영향력과는 정반대의 힘을 발휘하게 한다"라고 표현했습니다.

그리고 FT는 "다양한 AI가 미묘하게 다른 방식으로 작동하지만, 모두 사람들이 극단적인 입장에서 벗어나 온건하고 전문가적인 입장으로 향하도록 유도한다는 사실을 발견했다"라고 밝혔습니다.

심지어 편파적인 것으로 알려진 그록조차도 대부분의 사람에게는 우파적인 경향을, 처음부터 보수 강경파였던 사람들에게는 중도적인 입장을 취하도록 하는 완화적인 효과를 가져온다는 것입니다.

이는 오픈AI의 '챗GPT'와 구글의 '제미나이', 중국 정부의 검열을 받는 '딥시크'도 비슷하다고 봤습니다. 딥시크는 대부분의 사람에게는 약간의 좌파적 경향을, 극단적인 좌파 입장에서 벗어나도록 하는 완화적인 효과를 가져오는 것으로 분석했습니다,

결론적으로, 그록이든 딥시크든 각자의 정치적 편향과 상관없이 모든 AI 챗봇은 사용자의 극단적인 성향을 희석하고 상식적이고 일반적인 합의점으로 이끄는 완화제 역할을 한다는 것이 결론입니다. 그리고 이러한 변화가 지속된다면, AI는 "지난 10여년간 겪어온 극심한 사회적 갈등을 치유하는 뜻밖의 도구가 될지도 모르겠다"라는 주장입니다.

그러나 이런 낙관론에는 당연히 반박이 따릅니다. 가장 먼저 꼽을 수 있는 것이 '평균의 함정'입니다. 통계학계에는 "평균 수심이 1m인 강을 건너던 통계학자가 익사했다"라는 오래된 격언이 있습니다.

또 역사적으로 인류의 진보는 주류의 합의가 아니라, 당시에는 틀렸다고 여겨졌던 소수의 혁신적인 생각에서 시작됐습니다. AI가 모든 답변을 중도로 수렴하거나 획일화한다면, 문제가 될 수 있습니다.

칼럼에서도 지적됐듯, 기술 관료주의는 민주주의의 또 다른 위험이 될 수 있습니다.

다리오 아모데이 앤트로픽 CEO

도 지난해 한 방송에서 "AI 안전에 대한 결정을 소수의 회사나 소수의 사람이 내리는 것에 매우 불편함을 느낀다"라고 지적한 바 있습니다.

즉, 선출되지 않은 기업의 CEO가 많은 사람들에게 영향을 미칠 수 있는 가드레일을 일방적으로 결정하는 것은 옳은 일인가 대한 근본적인 문제를 지적한 것입니다. 그래서 그는 민주적 거버넌스와 집단 정렬이 필요하다고 주장했습니다.

LLM이 전문가와 대중의 합의에 수렴한다는 것도 의문을 제기합니다, 과거의 잘못된 결정들도 당시 전문가들의 합의에 따른 것이 많았기 때문입니다.

결국 AI의 수렴 특성은 사회적 분열을 잠재울 수도 있지만, 동시에 사회의 변화를 막고 다양성을 억제할 수도 있습니다.

"소셜 미디어가 우리를 서로 싸우게 했다면, AI는 우리를 모두 똑같이 생각하게 만들 수도 있다"라는 것을 인지해야 합니다.

이어 1일 주요 뉴스입니다.

앤트로픽, 내부 실수로 '클로드 코드' 소스코드 유출

앤트로픽의 성능 비밀이 담긴 소스코드가 내부의 실수로 공개됐습니다. 이 때문에 전 세계 개발자들은 이를 분석, 흡수하려고 분주한 것으로 알려졌습니다. 그리고 이번 사건이 오픈AI나 경쟁사에 어떤 영향을 미칠지도 주목됩니다.

구글 "양자컴퓨터로 비트코인 암호 깨는 데 자원 20배 절감 성공"

구글이 예상보다 20배나 적은 컴퓨팅으로 양자 암호를 무력화할 수 있다는 보고를 내놓았습니다, 빠른 양자컴퓨터를 활용해 새로운 알고리즘을 사용하면, 암호화폐와 블록체인의 핵심 보안 요소를 쉽게 풀 수 있다는 것입니다. 당장 가능한 일은 아니지만, 이번 보고가 어떤 영향을 미칠지 관심이 모입니다.

프리즘ML, 고밀도 모델 구축하는 획기적인 압축 기술 개발 주장

미국의 한 스타트업이 고성능 모델을 온디바이스로 적용할 새로운 압축 기술을 개발했다고 주장했습니다. 만약 사실이라면, 며칠 전 등장한 구글의 '터보퀀트'보다 더 큰 파장이 일 수 있습니다, 앞으로는 고성능 데이터센터 자체가 많이 필요 없다는 말이 될 수 있기 때문입니다.

AI타임스 news@aitimes.com