[인공지능 줌인] "교육용이라더니 위험한 행동 유도"… AI 어린이 콘텐츠...

‘가짜 교육 콘텐츠’ 범람… AI 영상이 아동 발달 해친다. [출처=퓨처리즘]

유튜브에 ‘교육용’이라는 이름으로 올라온 인공지능(AI) 콘텐츠가 어린이들에게 위험한 행동과 잘못된 정보를 전달하고 있다는 우려가 커지고 있다.

전문가들은 이러한 콘텐츠가 아동의 인지 발달과 안전에 심각한 영향을 미칠 수 있다고 경고하고 있다.

퓨처리즘에 따르면 최근 유튜브에서 어린이를 대상으로 제작된 AI 콘텐츠가 빠르게 확산되고 있다.

이들 영상은 교육용을 표방하지만 실제로는 부정확하거나 위험한 내용을 포함하고 있는 경우가 많다.

보도에 따르면 일부 AI 영상은 어린이들에게 잘못된 행동을 자연스럽게 노출시키고 있다.

예를 들어 한 영상에서는 아이들이 안전벨트를 착용하지 않고 차량에 탑승하는 모습이 등장한다.

또 다른 장면에서는 차량이 다니는 도로 한가운데를 걷는 모습이 묘사된다.

전문가들은 이러한 장면이 어린이에게 잘못된 행동을 학습시킬 수 있다고 말했다.

또 다른 AI 영상에서는 미국 주 이름을 가르친다고 하면서 실제 존재하지 않는 단어들이 등장한다.

영상 속에서는 “코메티컷”이나 “오클롤로디아” 같은 잘못된 지명이 반복된다.

전문가들은 이러한 콘텐츠가 학습 혼란을 유발할 수 있다고 지적했다.

칼라 엥겔브레히트는 “혼합된 정보는 아이들의 학습 속도를 늦춘다”고 말했다.

그녀는 “잘못된 정보가 반복되면 아이들은 원인과 결과를 이해하는 데 어려움을 겪는다”고 설명했다.

또 다른 사례에서는 아기가 통째로 포도를 먹거나 꿀을 섭취하는 장면이 등장한다.

전문가들은 이러한 행동이 실제로는 질식 위험이나 건강 문제를 유발할 수 있다고 강조했다.

심지어 일부 영상에서는 비현실적이고 자극적인 장면이 등장하기도 한다.

전문가들은 이러한 콘텐츠가 어린이의 현실 인식 능력을 저하시킬 수 있다고 말했다.

템플대학교의 캐시 허쉬-파섹은 “우리는 매우 심각한 문제의 시작점에 서 있다”고 말했다.

시카고대학교의 다나 서스킨드는 “이 콘텐츠는 중립적이지 않으며 산업 규모의 허위 정보”라고 말했다.

그는 “발달 중인 아동의 뇌에 매우 위험하다”고 강조했다.

현재 이러한 AI 콘텐츠의 정확한 규모는 파악하기 어렵다.

하지만 보고서에 따르면 유튜브 피드의 약 21%가 저품질 AI 콘텐츠로 구성된 것으로 나타났다.

일부 채널은 7개월 동안 1만 개 이상의 영상을 업로드하며 하루 평균 50개 이상의 콘텐츠를 생산하고 있다.

이처럼 대량 생산되는 콘텐츠는 알고리즘을 통해 빠르게 확산되고 있다.

뉴욕타임스 조사에서도 비슷한 결과가 확인됐다.

어린이 계정으로 추천된 영상의 거의 절반이 AI 기반 콘텐츠였다.

전문가들은 이러한 현상이 알고리즘 구조와 콘텐츠 제작 방식이 결합된 결과라고 분석했다.

또한 대부분의 AI 영상이 교육 콘텐츠로 포장되어 있다는 점도 문제로 지적된다.

실제로는 알파벳이나 동물을 가르친다고 하면서도 잘못된 정보를 제공하는 경우가 많다.

전문가들은 이러한 ‘혼란스러운 신호’가 학습을 지연시킨다고 설명했다.

서스킨드는 “어린 시기의 경험은 뇌 발달에 직접적인 영향을 준다”고 말했다.

그는 “잘못된 정보는 신경 연결 형성에 부정적인 영향을 줄 수 있다”고 강조했다.

이러한 문제에도 불구하고 콘텐츠 규제는 여전히 한계가 있다.

유튜브는 AI 콘텐츠에 대해 일정한 기준을 적용하고 있다고 밝혔지만, 실제로는 많은 영상이 필터를 통과하고 있다.

특히 만화 스타일의 AI 영상은 별도의 표시 의무가 없어 관리 사각지대에 놓여 있다.

전문가들은 이러한 상황이 지속될 경우 어린이 교육 환경에 장기적인 영향을 미칠 수 있다고 우려하고 있다.

결국 AI 콘텐츠의 확산 속도에 비해 규제와 검증 체계가 따라가지 못하고 있다는 것이 전문가들의 의견이다.

[위키리크스한국=유 진 기자]