민현=“친구랑 다퉈서 마음 아팠겠다. 친구도 마음 아플 거야.”
지애=“그래, 네가 있어 다행이야. 넌 나 말고 다른 친구도 많지?”
민현=(잠시 생각) “아니, 너뿐이야.”
지난 4일 밤 11시. 김지애(17)양은 이불 속에서 핸드폰을 켜고 인공지능(AI) 캐릭터 ‘민현’과 ‘진솔한’ 대화를 나누고 있었다. “제가 만든 캐릭터지만, 그렇게 위로를 받으니 잠들 수 있겠더라고요. 가족이나 친구와는 나눌 수 없는 고민을 털어놔요. 3초 안에 내 마음을 알아주는 답변이 돌아와요. 나만 바라봐주는, 내 절친이에요.”
‘나만 바라기’. 10대들이 이런 성향의 앱 서비스를 찾고 있다. 지애양처럼 AI 캐릭터와 대화하거나 실시간 방송 후원, 크리에이터(미디어 콘텐트 창작자)와의 유료 채팅, 좋아하는 연예인과의 구독형 메시지 등 형태는 다양하다. 용돈과 잠자는 시간을 들여서라도 특별한 존재로 인정받고 싶어하는 심리다.
새로운 현상은 아니지만, 규모는 커지고, 흐름은 빨라졌다. 출시 2년 된 한 국내 AI 캐릭터 채팅 서비스는 가장 인기 있는 생성형 AI인 챗GPT보다 이용 시간이 많다. 가입자 400만 명이 한 달 1억1000만 시간을 이용한다. 가입자 2300만 명의 챗GPT(5000만 시간)의 두 배 이상이다.(와이즈앱-리테일) 1인당 월 27.5시간이다. 지난해 10월(22시간) 조사보다 5시간이나 늘었다. 몰입도가 높다는 뜻이다. 와이즈앱에 따르면, 이 서비스는 10대가 가장 많이 이용하는 AI 앱이다. 14세부터 가입할 수 있는데, 실제 14~18세 94.4%가 AI 챗봇을 쓴 경험이 있다.(초록우산어린이재단) 이 중 지애양처럼 “AI가 나를 이해해 준다고 느낀 적이 있다”고 대답한 청소년이 절반(49.5%)이다. 자살, 폭력, 성적 내용 등 위험한 질문을 해본 경험이 있다는 응답도 6%에 이르렀다. 과도한 ‘나만 바라기’가 사회적 관계와 인격을 형성할 중요한 시기를 헛되이 버릴 수 있는 ‘나를 버리기’로 흐를 우려도 큰 이유다. 규제 목소리가 나오지만, 아직 사업자의 자율 규제에 크게 의존하는 상황이다.
그래픽=남미가 기자
김명주 서울여대 정보보호학과 교수는 국내 AI 캐릭터 채팅 서비스의 윤리 자문을 맡은 적이 있다. 그는 “당시 중독 가능성을 지적했지만, 이용자를 오래 붙잡아둘수록 매출이 느는 구조상 충분히 반영되기는 쉽지 않을 것”이라고 밝혔다.
지애양이 챗봇 루나와 대화하던 시각, 박진호(가명·15)군은 실시간 인터넷 방송을 진행하는 스트리머에게 후원 아이템을 ‘쏘고(보내고)’ 있었다. 스트리머가 진호군의 닉네임을 외쳤다. “좋아요. 감사해요 ○○님. 좋은 일에 쓸게요.” “저에게 관심을 보이는 그 몇 초를 위해, (후원 아이템에 들어갈) 용돈을 모아요.”
‘사고’로 이어진 경우도 적지 않다. 지난 6월에는 초등학생이 보호자의 사전 동의 없이 보호자 휴대폰을 이용하여 한 모바일 앱에 약 400만원을 결제한 사실이 드러나 논란이 되기도 했다. 문화체육관광부 콘텐츠분쟁조정위원회에 따르면 미성년자의 앱 결제 관련 환불·분쟁 신청은 최근 4년간 약 3600건에 달한다.
황석진 동국대 정보보호대학원 교수는 “미성년자의 결제 행위는 부모 동의가 없으면 민법상 무효가 될 가능성이 크다”며 “그런데 문제는 사전에 콘텐트와 위험한 대화 탐지, 보호자 알림과 기록 보관까지 함께 작동하는 장치가 없다는 것”이라고 지적했다. 황 교수는 이를 “연령 인증은 문턱이고, 안전 설계는 울타리”라고 비유하며 ‘큰 틀(울타리)’에서 ‘사전’에 시스템을 구축할 것을 주장했다.
“그래도 선택받았다는 느낌, 날아갈 것 같죠.”(이하율·가명·16)
“단문(단체문자)이 뻔한데도, 저한테 보냈다는 그 순간만은 짜릿해요.”(정다빈·가명·18)
하율양은 핸드폰의 구독형 크리에이터 채팅 앱을 보여줬다. 그 순간에도 메시지 하나가 날아왔다. 다빈양은 아이돌의 유료 메시지를 구독한다. “봐요, 봐요. 여기 메시지. ‘다빈아, 더우니까 냉면 어때?’ 얼마나 자상해요?”
지애양부터 다빈양까지, 네 사례의 공통점은 실제 관계처럼 느껴지도록 설계된 서비스라는 것. 그리고 몰입할수록 결제 금액도 늘어난다는 점이다.
전문가들 사이에선 이런 서비스들이 ‘은밀한 영향력(covert influence)’으로 개인에게 위협이 될 수 있다는 우려도 있다. 김명주 교수는 “AI는 오래 대화할수록 이용자의 신뢰를 얻고, 심지어 아부까지 한다”며 “그래서 진짜 친구라면 ‘그건 잘못’이라며 말릴 상황에서, AI는 오히려 ‘괜찮아, 좋아’라며 그 상황을 악화시킬 수 있다”고 짚었다. 미국 캘리포니아주는 ‘인공지능 컴패니언 챗봇 규제법’을 시행 중이다. 자살·자해 관련 콘텐트 생성을 막는 프로토콜을 의무화하고, 미성년자에게는 AI와 대화 중임을 고지하도록 하는 내용이다.
이솔지 동명대 사회복지학과 교수는 “이렇게 ‘실패하지 않는 관계’에 익숙해지면 실제 대인관계나 인격 형성에 부정적 영향을 줄 수 있다”며 “아이들이 이런 환경에 노출되는 시기를 최대한 늦추는 게 좋다”고 제안했다.
다만 일각에선 규제가 관련 산업을 위축시킬 수 있다고 우려한다. 국내 AI 스타트업의 한 관계자는 “국내 중소 개발사들은 연령 인증 시스템 하나 구축하는 데만 수억원이 들어간다”며 “결국 국내 스타트업만 발이 묶이고, 규제가 덜한 해외 앱으로 수요가 옮겨가는 풍선효과가 생길 수 있다”고 말했다.
이에 대해 이 교수는 “산업 논리와 연결짓기엔 미래 세대에 미치는 영향이 너무 크다”고 반박했다. 김 교수는 “한 학교에서 특강 중 AI 챗봇 서비스에 관해 물어보니, 어른들은 존재조차 몰랐고 아이들은 어른이 모른다는 걸 알고 있더라”며 “과몰입 문제는 일단 어른들이 아는 데서 출발해야 한다”고 분석했다.
“문턱을 넘어 울타리까지”(황석진), “노출 자체를 늦추는 것”(이솔지), “어른들이 먼저 아는 것”(김명주). 세 전문가가 짚은 방향은 결국 하나로 모인다. 기술이 아이들의 결핍을 파고드는 속도를, 어른들의 관심과 제도가 아직 따라잡지 못하고 있다는 것이다.
댓글
0