= 구글 제미나이로 생성된 AI 이미지
[이코리아] 최근 생성형 인공지능(AI)을 활용해 제작된 저품질 콘텐츠, 이른바 ‘AI 슬롭(AI Slop)’이 유튜브를 중심으로 빠르게 확산되면서 아동 보호와 플랫폼 책임을 둘러싼 논쟁이 본격화되고 있다. AI 슬롭은 생성형 AI로 값싸고 빠르게 대량 생산된 영상, 이미지, 텍스트 가운데 품질이 낮거나 사실관계가 불분명한 콘텐츠를 가리키는 말이다.
로이터 저널리즘 연구소는 지난 2024년 내놓은 보고서를 통해 “AI 슬롭(AI Slop)이 조용히 인터넷을 잠식하고 있다”고 분석했다. 보고서는 생성형 AI를 이용해 생산된 낮은 품질의 텍스트와 이미지, 영상 등이 “무성의하게 복붙한 글(lazy text)” 형태로 대거 확산되며, 온라인 정보 생태계를 위협하고 있다고 경고했다. 특히 이 같은 콘텐츠는 겉보기에는 신뢰성을 갖춘 것처럼 보이지만, 실제로는 정확성과 검증이 결여돼 디지털 공간에서 허위정보와 허위맥락을 양산할 수 있다는 우려가 크다는 분석이다. 또 기술 정책 분석 매체 테크폴리시 프레스는 최근 보도에서 AI 슬롭이 단순한 인터넷 유행을 넘어 플랫폼 전반의 정보 신뢰를 흔드는 구조적 문제로 번지고 있다고 짚기도 했다.
페어플레이 누리집= 페어플레이 누리집
이런 가운데 미국 시민단체와 전문가들은 아동 발달을 위해 유튜브의 AI 슬롭 영상을 규제해야 한다고 주장하고 나섰다. 현지시간 1일 아동 권익단체 페어플레이(Fairplay)를 중심으로 135개 단체와 약 100명의 전문가들은 순다르 피차이 구글 CEO와 닐 모한 유튜브 CEO에게 공개서한을 보내, 유튜브와 유튜브 키즈에서 확산 중인 AI 생성 영상이 아동의 현실 인식과 학습 과정, 주의 집중에 악영향을 줄 수 있다고 경고했다.
이들은 유튜브가 유아와 영아를 포함한 어린이들에게 저품질 콘텐츠를 사실상 강요하고 있다고 주장했다. 서한에 따르면 인기 유아 콘텐츠 시청 이후 추천되는 영상의 약 40%가 AI 생성 콘텐츠였으며, 신규 이용자에게 추천되는 쇼츠 영상의 약 21% 역시 AI 슬롭으로 나타났다. 또 일부 영상은 ‘교육용’으로 분류되지만 실제로는 허위 과학 정보나 비논리적 내용이 포함된 사례도 확인됐다고 지적했다.
또 유튜브의 대응에 대해서도 비판했다. 서한은 “아동 안전을 보장하겠다는 약속에도 불구하고 AI 슬롭 콘텐츠의 확산은 유튜브가 가장 취약한 이용자의 복지보다 수익을 우선시하고 있음을 다시 한번 보여준다”고 지적했다. 이어 일부 제작자들이 “줄거리도 없는 최면적 AI 콘텐츠로 수백만 달러를 벌고 있다”고 언급하며, 플랫폼의 수익 구조가 저품질 콘텐츠 확산을 부추기고 있다고 강조했다.
이에 따라 이들은 ▲유튜브 전반에서 AI 생성 콘텐츠에 대한 명확한 표시 의무화 ▲유튜브 키즈에서 AI 콘텐츠 전면 금지 ▲아동 대상 콘텐츠(‘Made for Kids’)에서 AI 생성 영상 제한 ▲18세 미만 이용자에 대한 AI 콘텐츠 추천 차단 ▲부모가 AI 콘텐츠를 차단할 수 있는 기본 설정 도입 ▲아동 대상 AI 콘텐츠 투자 중단 등을 요구했다.
서한 작성에 참여한 페어플레이의 레이첼 프란츠(Rachel Franz)는 “어린 아이들에게 AI 슬롭을 밀어 넣는 것은 유튜브와 유튜브 키즈가 아동의 온라인 체류 시간을 극대화하도록 설계됐다는 점을 보여준다”며 “AI 슬롭은 아이들을 화면에 붙잡아 두고 놀이, 수면, 사회적 상호작용과 같은 필수 활동을 방해한다. 알고리즘 구조상 아이들이 이를 피하는 것도 사실상 불가능하다”고 지적했다.
한편 외신에 따르면 유튜브 측은 유튜브 키즈에는 일반 유튜브보다 더 엄격한 기준을 적용하고 있으며, AI 생성 콘텐츠도 검증된 소수의 고품질 채널로 제한하고 있다고 해명했다. 또한 부모가 특정 채널을 차단할 수 있는 기능을 제공하고, 일반 유튜브에서는 창작자에게 사실적인 AI 콘텐츠의 공개를 요구하고 있다고 밝혔다. 하지만 비판하는 측은 이러한 조치가 사후 대응에 가깝고, 추천 알고리즘 자체가 AI 슬롭 확산을 부추기는 구조라는 점은 건드리지 못하고 있다고 지적한다. 실제로 페어플레이 측은 유튜브가 과거 ‘엘사게이트’ 사태 때 대규모 영상 삭제와 계정 정지를 단행한 전례가 있는 만큼, 지금도 더 강한 조치를 취할 역량은 충분하다고 주장하고 있다.
AI 슬롭 논란은 이제 아동 콘텐츠를 넘어 온라인 플랫폼 전반의 구조적 문제로 번지는 양상이다. 테크폴리시 프레스는 생성형 AI와 소셜미디어형 확산 구조가 결합할 경우 허위 영상과 저품질 합성 콘텐츠가 대량 유통되는 ‘원스톱 AI 슬롭 상점’이 될 수 있다고 비판했다. 같은 맥락에서 플랫폼들이 개별 콘텐츠를 하나씩 걸러내는 수준을 넘어, AI 생성물의 출처 표시와 워터마킹, 추천 제한, 이용자 차단 선택권 등 구조적 대응에 나서야 한다는 요구도 커지고 있다. 검증되지 않은 AI 저품질 콘텐츠가 알고리즘과 수익화 체계를 타고 빠르게 증폭되고 있다는 지적이다.
한편 AI 슬롭 문제는 국내에서도 주목받는다. 글로벌 영상 분석 업체 카프윙(Kapwing)이 지난해 11월 내놓은 보고서에 따르면, 한국 기반의 AI 슬롭 채널 누적 조회수는 84억 5,000만 회로 전 세계 조사 대상 국가 중 압도적 1위를 기록했다. 이는 2위 파키스탄(53억 회), 3위 미국(34억 회)을 크게 앞지르는 수치로, 한국 시장이 슬롭 생산자들에게 가장 매력적인 ‘수익 창구’임을 입증한다는 분석이다.
댓글
0