[ON 선데이] 혁신과 규칙 사이가 너무 멀 때

이재국 성균관대 교수

세 아이를 둔 44세의 주부였다. 사흘간의 런던 여행길에서 난생처음 보는 거대한 물체가 그를 향해 돌진했다. 놀란 여성은 우산으로 막았지만, 육중한 쇳덩이는 짓밟고 지나갔고 그는 그 자리에서 숨졌다. 1896년 브리짓 드리스콜이 인류 최초로 보행 중 자동차에 치여 사망한 순간이다. 차도와 인도가 구분되어 있지 않았으며 운전면허조차 없던 시절이었다. 검시관은 “낡은 규칙을 새로운 상황에 맞추는 어려움”을 토로했다. “이런 일이 다시는 일어나지 않기를 바란다”라고도 했다. 그러나 재판은 ‘우연한 사고’라는 결론으로 끝났고 운전자와 자동차 제작사 어디에도 책임을 묻지 않았다.

기술은 언제나 규칙을 앞서 나가

소셜미디어, 담배회사와 똑 닮아

‘유해성’ 제대로 밝히지 않고 숨겨

인간이 희생된 후에야 규제 생겨

이 사건은 기술과 규제의 큰 시간 차가 만들어낸 전형적인 장면이다. 1886년 자동차가 등장했을 때, 사람들은 새로운 교통수단이 가져올 위험을 잘 몰랐다. 안전장치에 대한 인식은 물론, 최소한의 규제도 존재하지 않았다. 1920년대에야 인도와 차도가 분리되었고 1930년대에 최초로 횡단보도와 속도 제한이 도입되었으며, 안전벨트 의무화가 시작된 것은 1970년이었다. 기술이 사회를 바꾸고 나면 규칙은 그 뒤를 허겁지겁 따라갔다.

패턴은 반복된다. 미국의 20세 여성 케일리가 인스타그램과 유튜브를 상대로 소송을 제기했다. 어린 시절부터 소셜미디어(SNS)에 노출된 그는 중독과 우울, 신체이형장애를 겪었다고 주장했다. 얼마 전 이 재판 배심원단은 플랫폼이 이용자의 체류 시간을 극대화하도록 설계됐다는 점을 인정했다. 인스타그램과 유튜브가 알림과 ‘좋아요’, 자동 재생, 무한 스크롤 등 인간 심리를 조종하는 기능을 통해 이용자를 중독시켜 왔다는 것이다. 이번 평결대로 판결이 확정되면 메타와 구글은 케일리에게 징벌적 손해배상까지 약 90억원을 지불해야 한다. 그리고 수많은 소송이 뒤따를 것이다. 인스타그램이 10대 청소년에게 해롭다는 것을 알고도 메타가 아무런 조처를 하지 않았다는 점이 폭로된 뒤 5년 만의 일이다.

소셜미디어 기업이 걸어온 길은 담배회사와 똑 닮았다. 1950년대부터 시작된 미국 내 담배 관련 소송에서 소비자가 승소한 사례는 수십 년 동안 단 한 건도 없었다. 내부고발자의 언론 폭로 이후 1998년에야 막대한 배상금이 부과됐다. 이미 수많은 사람이 니코틴에 중독되고 폐암 등 질병으로 사망한 뒤였다. 담배회사들이 니코틴의 중독성을 확인하고도 수십 년간 그 사실을 숨겼듯이, 지금 AI 기업들은 내부에서 위험성을 연구하던 사람들을 조용히 내보내고 있다. 2020년 구글은 대형언어모델의 위험성을 경고하던 윤리팀 책임자를 사실상 해고했다. 메타는 2022년 페이스북과 인스타그램의 윤리 담당팀을 해체했고, 마이크로소프트는 2023년 윤리·사회팀 전원을 해고했다. 오픈AI도 마찬가지다. 2024년 안전팀 책임자가 회사 정책을 공개 비판하며 사임했고, 오픈AI는 곧바로 이 팀을 해체했다. 속도와 안전 사이의 선택에서 빅테크의 선택은 한결같았다.

기술은 언제나 앞서 나간다. 그러나 뒤따라가는 규칙이 지나치게 늦을 때, 그 간격은 언제나 인간의 피와 눈물로 채워진다. 드리스콜과 소셜미디어에 중독된 청소년들, 담배로 병들어간 수많은 사람이 그랬다. 한국은 AI기본법을 통과시키며 세계에서 두 번째로 포괄적 규제 체계를 갖췄다고 자부한다. 그러나 내용은 기대와 전혀 다르다. 유럽에선 위법 업체에 대해 글로벌 매출의 최대 7%의 벌금을 부과하지만, 한국은 최대 3000만원의 과태료에 그친다. 여기에 계도 기간도 최소 1년이라 즉각적인 효과는 거의 없다. ‘고영향 AI’의 정의는 모호하고 학습 데이터 공개 의무도 없다. ‘산업 진흥’이 이 법의 주된 목적이기 때문이다. 세계 최초라는 군사 인공지능 법안까지 소리 없이 준비되고 있다. 인간의 개입이 보장되어야 한다면서도, 동시에 이를 생략하고 미완성 기술을 실전에 투입할 수 있는 근거도 포함한다. ‘K-방산’과 ‘글로벌 AI 3강’의 구호에 우려의 목소리는 모깃소리일 뿐이다.

드리스콜이 사망한 날, 영국에 휘발유 차량은 12대가 있었고 자동차는 고작 시속 6㎞로 달렸다. 케일리 소송이 진행되고 있는 오늘, 소셜미디어와 AI는 우리 삶 구석구석에 침투하고 있으며 인간이 따라잡을 수 없는 속도로 날아다닌다. 감당이 힘든 위험이 닥친 이후에 “이런 일이 다시는 일어나지 않기를 바란다”고 해봤자 죽은 사람을 살릴 수는 없다.

이재국 성균관대 교수