얼굴인식 아닌 ‘시각적 단서’ 분석 거쳐
페이스북·인스타그램서 청소년 계정 찾아
축하 메시지·성적 언급 등 맥락 단서도 탐지
페이스북·인스타그램을 운영하는 사회관계망서비스 기업 메타의 로고. 로이터 연합뉴스
페이스북·인스타그램 운영사 메타가 인공지능(AI)을 활용해 미성년자 계정을 자동으로 식별·삭제하는 시스템을 도입하며 아동 보호 강화에 나섰다. 최근 대규모 벌금 판결 직후 나온 조치로, 규제 위험을 낮추기 위한 대응이라는 해석이 나온다.
메타는 5일(현지시간) 사진과 동영상을 분석해 13세 미만 이용자를 판별하는 AI 시스템을 확대 도입한다고 밝혔다. 해당 기술은 페이스북과 인스타그램에 적용되며, 미성년자로 판단될 경우 계정을 비활성화하거나 삭제한다.
이번 시스템의 특징은 ‘얼굴 인식’ 이 아닌 ‘시각적 단서’ 분석에 있다. 메타는 키, 골격 구조, 체형 등 외형적 특징을 기반으로 사용자의 연령대를 추정하고, 게시물·댓글·자기소개 등 텍스트 정보와 상호작용 패턴을 결합해 판단 정확도를 높인다고 설명했다.
메타는 “이미지 속 특정 인물을 식별하는 것은 아니다”라며 “시각 정보를 텍스트 및 상호작용 분석과 결합하면 미성년자 계정을 식별하고 삭제하는 비율을 크게 높일 수 있다”고 밝혔다.
AI는 프로필 전반을 분석해 생일 축하 메시지나 성적 언급 등 맥락적 단서도 탐지한다. 미성년자로 의심될 경우 계정은 자동 비활성화되며, 이용자는 별도의 연령 인증 절차를 통해서만 계정을 복구할 수 있다.
5,500억원 벌금 부과 후 아동보호 강화
이는 메타가 아동 보호 의무를 소홀히 했다는 이유로 미국 뉴멕시코주 법원에서 3억7,500만 달러(약 5,500억 원)의 벌금을 부과받은 지 몇 주 만에 나온 조치다. 플랫폼 내 미성년자 이용을 선제적으로 차단하고, 잇따른 소송과 규제 압박에 대응하기 위한 전략적 조치로 풀이된다.
메타는 청소년 보호 기능도 대폭 강화하고 있다. 10대 이용자를 자동으로 ‘청소년 계정’으로 전환하는 기능을 유럽연합(EU) 27개국과 브라질에 이어 미국 페이스북까지 확대 적용했으며, 다음 달에는 영국과 유럽 전역으로 확대할 계획이다. 청소년 계정은 모르는 사람의 메시지(DM)를 제한하고, 유해 댓글을 자동으로 숨기며, 기본적으로 비공개 설정을 적용하는 등 강화된 보호 장치를 갖춘다.
AI 기술을 활용한 아동 보호 강화는 글로벌 빅테크 전반으로 확산되는 흐름이다. 정보기술(IT) 전문매체 테크크런치는 “이 사건은 메타를 비롯한 대형 기술 기업들이 아동 안전 문제로 직면하고 있는 수많은 소송 중 하나”라며 향후 다른 빅테크에 미칠 파장을 시사했다.
댓글
0