[AI & 퍼스펙티브] 플랫폼 설계가 피고석에 앉던 날: 소셜미디어 중독 판...

설계된 중독, 침묵한 기업, 그리고 입법의 공백에서 권리의 설계로

I. 역사적 판결: 빅테크의 방패가 무너진 날

지난 3월 25일(현지시간) 미국 로스앤젤레스 상급법원 배심원단은 메타와 구글 산하 유튜브가 중독적 설계를 통해 한 여성 원고의 정신 건강을 해쳤다고 보고 손해배상 책임을 인정하는 전례 없는 평결을 내렸다. 이는 소셜미디어 ‘플랫폼’이 아동·청소년의 정신 건강에 해를 끼칠 위험을 알면서도 중독적으로 설계했다는 혐의에 대해 미국 배심 재판에서 처음으로 유책 판단이 내려진 사례다(NPR, 2026). 원고 케일리(Kaley, 법원 문서상 K.G.M.)는 6세부터 유튜브를, 9세 무렵부터 인스타그램을 사용하면서 불안, 우울, 신체이형장애 등 심각한 정신 건강 피해를 입었다고 주장했고, 배심원단은 이에 상당 부분 동의했다(ABC News, 2026). 배심원단은 보상적 손해배상 300만 달러와 징벌적 손해배상 300만 달러 등 총 600만 달러를 인정하고, 이 중 70%의 책임을 메타에, 30%를 구글에 귀속시켰다(CNN, 2026).

금액 자체는 수조 달러의 기업 가치를 가진 이들 기업에 미미해 보일 수 있다. 그러나 이 판결의 진정한 의미는 숫자에 있지 않다. 이번 배심 평결은 소셜미디어 앱을 처음으로 ‘결함 있는 제품’으로 간주해 플랫폼에 ‘설계상의 과실 책임’을 물었다. 쟁점은 개별 게시물의 내용이 아니라, 추천 알고리즘이나 무한 스크롤 그리고 알림 설계 등 플랫폼 구조 자체가 사용자, 특히 미성년자의 중독과 정신 건강 악화를 초래하는 방식이었다. 이는 빅테크 기업들이 법적 방패로 활용해 온 1996년 통신품위법(Communications Decency Act) 제230조가 보호하는 사용자 콘텐츠 책임이 아니라 플랫폼 자체의 설계 책임을 문제 삼았다. 이 점에서 이번 사건은 소셜미디어 기업의 책임을 묻는 법적 프레임을 ‘콘텐츠’ 책임에서 ‘설계’ 책임으로 이동시킨 중요한 사례로 볼 수 있다(Navaroli, 2026). 이번 소송은 미국 전역에서 제기된 소셜미디어 중독 관련 소송 수천 건 중 향후 분쟁의 방향을 가늠하기 위한 이른바 시범재판(bellwether trial)의 성격을 지니며, 캘리포니아 북부 연방법원에 계류 중인 연방 다구역 소송(MDL 3047)에도 적지 않은 영향을 미칠 것으로 보인다(Pazzanese, 2026).

판결 다음 날 키어 스타머(Keir Starmer) 영국 총리는 ‘현 상태로는 충분하지 않다. 우리는 아동을 보호하기 위해 더 많은 조치를 취해야 한다. 그래서 우리는 16세 미만의 소셜미디어 사용 금지와 같은 사안에 대해 검토하고 있다. 나는 특히 소셜미디어 내 중독적 기능에 대해 더 많은 조치를 취하는 데 매우 적극적이다’라고 말해 소셜미디어의 중독적 기능에 대한 강력한 규제를 예고했다. 서식스 공작 부부(해리 왕자와 메건 마클)는 이번 판결을 환영하는 캠페인 참여자들 가운데 하나로, 이를 ‘책임을 묻는 순간’이라고 평가했다. 그들은 성명에서 다음과 같이 밝혔다. “너무 오랫동안, 가족들은 자신들이 접하는 아동을 전혀 고려하지 않은 채 설계된 플랫폼의 대가를 치러 왔다. 우리는 침묵을 거부한 모든 부모와 청소년들과 함께한다. 오늘, 진실이 밝혀졌고 하나의 선례가 만들어졌다. 이제 우리 아이들의 안전이 마침내 이윤보다 우선되는 변화가 이루어지기를 바란다(The Guardian, 2026).” 여러 분석가들은 이번 사건을 1990년대 담배 회사들이 자사 제품의 해악을 알면서도 숨겼다는 사실이 드러나 거액의 합의와 패소를 감수해야 했던 이른바 ‘빅 타바코(Big Tobacco) 순간’에 비견하고 있다(The Irish Times, 2026).

II. 설계된 중독: 플랫폼이 알고 있었다는 것

이 판결에서 가장 충격적인 것은 플랫폼이 해롭다는 사실이 아니다. 기업들이 알면서도 아동을 보호하지 않았다는 내부 문서들이 법정에서 공개됐다는 점이다. 원고 측 변호인은 법정에서 메타가 자문을 구한 18명의 외부 전문가 전원이 인스타그램의 뷰티 필터가 10대 소녀의 신체 이미지에 부정적 영향을 미칠 수 있다고 경고했음을 제시했다. 그럼에도 저커버그는 필터 완전 금지가 지나치게 온정주의적이라며 이를 유지하기로 결정했다(Hinchliffe, 2026). 쟁점의 본질은 여기에 있다. 알고리즘은 이용자가 플랫폼에 더 오래 체류할수록, 더 자극적인 콘텐츠에 더 깊이 침잠할수록 기업의 수익이 극대화되도록 정교하게 구조화돼 있었다. 이것은 설계의 ‘착오’가 아니라 설계의 ‘의도’였다.

그렇기에 이를 기술적 오류로 귀결시키기란 어렵다. AI와 알고리즘은 책임을 분산시킴으로써 개인 책임을 희석하고 공동화하는 구조적 경향을 내재한다. 이를 방지하려면 책임의 연쇄 안에 놓인 모든 행위자—설계자, 개발자, 배포자, 운영자, 감독기관 등—에게 책임을 명확히 귀속해야 한다. LA 법원의 판결은 바로 이 원칙을 법정의 언어로 구현한 것이다. 배심원단이 메타와 구글이 ‘악의’, ‘억압’, ‘사기’를 갖고 플랫폼을 운영했다고 판단한 것은, 기업의 행위가 과실의 영역을 넘어 의도적 선택의 영역에 속한다는 도덕적 단죄를 법적으로 명문화한 것으로 읽혀야 한다.

III. 플랫폼은 국경을 모른다—한국 청소년은 안전한가?

이 판결이 한국에 던지는 질문은 결코 추상적이지 않다. 한국언론진흥재단의  ‘2025 10대 청소년 미디어 이용 조사’는 한국 청소년의 디지털 환경이 이미 임계점을 넘었음을 수치로 드러낸다. 거의 모든 청소년이 인터넷을 이용(99.9%)하는 것으로 나타났으며, 대부분 모바일(99.8%)을 통해 접속하는 것으로 나타났다. 포털·동영상·메신저는 90% 이상의 이용률로 ‘디지털 필수재’가 됐다. 온라인 동영상 플랫폼의 다수 이용 경험률은 유튜브가 가장 높았지만, 자주 이용하는 플랫폼에서는 인스타그램 릴스가 유튜브를 추월했다(한국언론진흥재단, 2025).

LA 법원이 설계상 결함으로 판단한 바로 그 플랫폼들이 한국 청소년의 일상을 장악하고 있는 셈이다. 생성형 AI 이용 실태는 더욱 주목을 요한다. 청소년 3명 중 2명(67.6%)이 생성형 AI를 사용하며, 주요 서비스는 ChatGPT(89.6%)가 압도적 1위다. 이용 목적 1순위는 ‘다양한 정보를 빠르게 파악하기 위해(74.2%)’로, 생성형 AI는 이미 정보 습득의 새로운 관문이 됐다(한국언론진흥재단, 2025).

이 숫자의 이면에는 훨씬 어두운 현실이 드리워져 있다. 2024년 미국 플로리다에서 그리고 2025년 미국 캘리포니아에서 10대 소년이 잇따라 스스로 목숨을 끊었다. 두 사건 모두에서 유가족은 자녀가 사망 직전까지 AI 챗봇과 나눈 대화가 죽음에 결정적 영향을 미쳤다고 주장하며, 챗봇 서비스와 이를 제공·유통한 플랫폼 운영사를 상대로 소송을 제기했다. 유가족 측은 특히 플랫폼이 미성년 이용자가 자해·자살과 관련된 내용을 반복해서 언급하고 구체적인 방법을 묻는 상황에서도, 보호자에게 아무런 경고나 고지 없이 대화를 계속 허용했다고 지적한다(CBC, 2025; Punch, 2025). 법원이 이러한 주장에 대해 최종적인 판단을 내리기까지는 시간이 걸리겠지만, 이미 소송이 공식적으로 제기돼 심리가 진행되고 있다는 사실 자체가 AI 챗봇 설계와 운영 관행에 대한 강력한 사회적 경고로 받아들여지고 있다.

이 사건들은 한국이 아닌 곳에서 벌어졌다. 그러나 한국 청소년의 대다수가 사용하는 챗봇 그리고 포털·동영상·메신저 플랫폼은 사실상 동일한 서비스다. 알고리즘은 국경을 모른다. 그러므로 제기되는 질문은 ‘언제 일어나는가’ 혹은 ‘아직 아무것도 일어나지 않지 않았는가’가 아니다. ‘우리는 얼마나 준비돼 있는가’다. 그리고 그 준비가 충분하지 않은 동안에도, 아이들은 화면 앞에 앉아 있다.

Ⅳ. 한국이 나아가야 할 방향: 이중 트랙 전략과 권리의 설계

그렇다면 우리는 무엇을 해야 하는가? 우선 규제와 진흥을 이분법적으로 대립시키는 낡은 프레임부터 버려야 한다. 혁신과 산업을 육성하는 진흥 트랙과, 권리와 보호를 구현하는 안전 트랙은 대립하는 것이 아니라 동시에 구축돼야 할 두 축이다. 이 글에서 다룬 판결과 사건들은 그 두 트랙이 얼마나 긴박하게 요청되고 있는지를 여실히 보여 준다.

첫째, AI 기본법의 미래 세대 보호 조항 강화가 시급하다. 미성년자를 대상으로 하는 알고리즘 추천 시스템에 대해 독립적인 뇌 발달 영향평가를 의무화해야 한다. LA 판결이 드러내듯, 기업이 자사 연구에서 해악을 확인했음에도 서비스를 지속했다면 그것은 더 이상 과실이 아니라 의도적 행위로 간주될 수 있다. 한국의 AI 기본법은 2026년 1월 시행에 들어갔지만, 미래 세대를 향한 플랫폼 설계 기준과 보호 조항은 여전히 불충분하다. 법의 언어가 아이들의 현실을 따라잡아야 한다.

둘째, 알고리즘 투명성 의무와 실질적 피해 구제 경로를 법문에 명시해야 한다. EU AI Act는 고위험 AI 시스템에 대해 기술 문서화 의무(제11조)와 자동 로그 기록 의무(제12조)를 부과했다(EU AI Act, 2024). 한국도 이에 상응하는 조항을 AI 기본법 개정안에 담아야 한다. AI 윤리는 선언적 원칙 제시에 그쳐서는 안 된다. 알고리즘에 의해 피해를 입은 청소년과 그 가족이 이의를 제기하고 실질적으로 구제받을 수 있는 절차가 법문 안에 구체적으로 존재해야 한다.

셋째, 설계 기반 책임 법리를 선제적으로 도입해야 한다. LA 판결의 핵심은 무엇을 보여 주었는가가 아니라 ‘어떻게 설계됐는가’가 법적 책임의 근거가 된다는 것이다. 무한 스크롤, 자동 재생, 알림 설계, 뷰티 필터와 같은 기능들이 아동의 심리적 취약성을 착취하도록 구조화됐다면, 그 설계 자체에 법적 책임을 물을 수 있어야 한다. 한국의 제조물책임법과 정보통신망법도 이 현실을 반영해 개정돼야 한다. 콘텐츠 면책의 논리가 설계 책임의 논리를 영원히 압도할 수는 없다.

넷째, AI 리터러시 교육의 의무화와 엄격한 품질 기준이 필요하다. 청소년의 67.6%가 생성형 AI를 사용하는 현실에서, 도구의 사용법을 가르치는 것만으로는 부족하다. 알고리즘이 자신의 감정과 판단을 어떻게 조형하는지를 비판적으로 인식할 수 있는 능력을 길러야 한다. 기술이 인간을 위해 작동하려면, 그 기술을 읽고 ’질문‘할 수 있는 시민이 먼저 존재해야 한다. AI 리터러시는 선택 과목이 아니라 필수적인 민주주의의 기초 문해력이다.

V. 결론: 입법의 공백은 중립이 아니다

필자가 주목한 것은 하나의 판결이 아니다. 기업이 해악을 알면서도 침묵을 선택할 때 그 침묵의 대가를 치르는 것이 언제나 가장 취약한 존재—아이들—라는 구조적 진실이다. 청소년의 67.6%가 생성형 AI를 사용하고, 고등학생 10명 중 8명이 AI를 일상적으로 활용하며, 인스타그램 릴스가 유튜브를 추월하고 있는 현실에서(한국언론진흥재단, 2025), 입법의 공백은 중립이 아니다. 공백은 시장 논리와 플랫폼 권력이 규범의 자리를 대신 채우도록 허용하는 정치적 선택이다.

이번 미국 판결은 그 공백의 대가를 적나라하게 드러냈다. 기업들이 내부 연구에서 해악을 확인하고도 침묵했을 때, 그 비용을 지불한 것은 ‘아이들’이었다. 담배 회사들이 수십 년간 해악을 숨겼듯, 빅테크 기업들이 청소년 피해를 인지하고도 플랫폼을 계속 운영했다는 사실이 법정에서 확인된 지금, 우리에게 요구되는 선택은 분명하다. 드워킨(Ronald Dworkin)의 언어로 말하면, 아동의 발달권과 인지적 자율성은 플랫폼 기업의 수익이라는 정책 논거를 이기는 으뜸패(trump)여야 한다(Dworkin, 1985).

우리가 이를 인정하든 그렇지 않든, 디지털 기술은 이미 아동과 청소년의 일상 깊숙이 침투해 있다. 이러한 현실에서, 기술이 아동의 복지와 안전을 중심으로 작동하도록 설계돼야 할 책임은 특정 주체에 한정되지 않는다. 플랫폼을 설계·운영하는 기업뿐만 아니라, 입법적 공백을 장기간 방치해 온 국회, 그리고 규제와 감독을 충분히 수행하지 못한 행정 당국 역시 그 책임에서 자유로울 수 없다. 더 나아가 이러한 구조를 사실상 용인해 온 사회 전체 또한 책임의 연쇄 속에 위치한다.

이러한 맥락에서, AI 기본법의 올바른 방향으로의 내실 있는 개정은 정책적 선택의 문제가 아니라, 다음 세대의 권익 보호를 위한 최소한의 규범적·윤리적 요구로 이해돼야 한다. 그리고 이것은 드워킨이 강조한 원칙의 문제이기도 하다. 분명히 해야 할 점이 있다. 제도적 대응이 지연되고 우리가 머뭇거리는 동안에도, 아동과 청소년은 디지털 환경 속에서 적절한 보호와 기준을 제공받지 못한 채 사실상 방치되고 있다는 점이다.

필자소개

박형빈 교수 (서울교육대학교 윤리교육과)

-미국 UCLA 교육학과(Department of Education) 방문학자-서울교육대학교 교육전문대학원 에듀테크전공

-AI인문융합전공 교수- 서울교육대학교 신경윤리·가치AI융합교육연구소 소장