[3월30일] 메타 패소가 AI 기업에도 치명적인 이유..."AI 안전 연구가 '유...

지난주 메타와 구글의

소셜 미디어 청소년 악영향에 관한 재판 결과

는 미국 기술업계에 큰 파장을 일으켰습니다. 기업이 진행한 '안전 연구'가 미래에는 '유죄 증거'가 될 수 있다는 역설을 다시 증명했기 때문입니다.

이 사건은 20세의 여성이 미성년 당시 인스타그램과 유튜브의 무한 스크롤과 끊임없는 알림 등 중독적인 디자인으로 인해 심각한 신체 이형증, 우울증, 자살 충동에 시달렸다고 주장하며 소송을 제기한 데에 따른 것입니다.

배심원단은 두 회사가 모두 앱 설계 과정에서 과실이 있었고, 앱의 위험성에 대해 경고하지 않았다고 판단했습니다. 이에 따라 메타에 420만달러(약 63억5000만원), 구글에 180만달러(약 27억2000만원)의 손해배상 책임을 물게 됐습니다.

액수는 크지 않았지만, 미국에서는 이를 지난 10여년 동안 논란을 일으킨 소셜 미디어의 청소년 악영향 문제에 한 획을 긋는 중요한 사례로 평가했습니다. 앞으로 많은 소송이 뒤따를 것으로 예측됐기 때문입니다.

특히 1990년대 미국을 뒤흔든 '담배 회사의 순간(Big Tobacco Moment)'에도 비유하고 있습니다.

수십년 동안 담배 회사들은 "담배가 암을 유발한다는 과학적 증거가 없다"라거나 "흡연은 개인의 자유"라는 논리로 수천건의 소송에서 승소해 왔습니다. 하지만 1990년대 중반, 결정적인 내부 고발자가 등장하며 상황이 반전됐습니다. 담배 회사가 이미 수십년 전부터 니코틴의 중독성과 암 유발 가능성을 알고 있었다는 내부 기밀문서가 공개된 것입니다.

그 결과 미국 46개 주 정부는 담배 회사들을 상대로 제기한 소송을 통해 1998년 합의를 끌어냈습니다. 담배 회사들은 25년간 각 주 정부에 공중 보건 비용으로 2060억달러(당시 가치 약 270조원)를 지불하고 청소년을 타깃으로 한 만화 캐릭터 사용 금지, 옥외 광고판 철거, 스포츠 경기 후원 금지 등 강력한 마케팅 규제를 적용한다는 내용입니다. 또 기업이 보유한 모든 흡연 관련 연구 문서와 내부 기밀 자료를 대중에게 공개하도록 강제했습니다.

이를 통해 담배 기업들은 막대한 피해를 입었습니다. 배상금 지급을 위해 담배 가격을 대폭 인상해야 했고, 이는 흡연율 감소로 이어졌습니다. 또 기호품 제조사라는 이미지에서 부도덕한 기업으로 이미지가 추락, 인재 채용과 투자 유치에서 큰 어려움을 겪게 됐습니다.

물론, 담배는 제품 자체가 유해하지만, 소셜 미디어는 도구적인 성격이 강합니다. 이를 비교하는 것은 어울리지 않을 수 있습니다.

그러나 두 재판은 결정적인 내부자 고발이 등장했다는 것이 공통점입니다. 페이스북 전 임원 브라이언 볼랜드는 소셜 미디어 서비스가 사용자에게 치명적인 영향을 줄 수 있다는 내부 연구 결과가 경영진에게 전달됐으나, 이는 무시됐다고 증언했습니다.

그는 CNBC와의 인터뷰에서 ”한때 내부적으로 팀을 구성해 여러 가지 사항을 살펴볼 수 있었고, 짧은 기간 동안 뛰어난 연구원들이 지금보다 조금 더 자유롭게 이러한 제품에서 무슨 일이 일어나고 있는지 조사할 수 있었다”라고 말했습다.

특히 2021년 페이스북 연구원 프랜시스 하우젠이 수백건의 내부 연구와 문서를 공개한 내부 고발 사건은 메타에 치명타가 됐습니다. 메타 사상 가장 악명 높은 스캔들로 꼽히는 이 사건은, 기업의 비도덕성을 폭로한 것을 넘어 기업이 안전을 위해 수행한 연구가 오히려 기업을 공격하는 증거가 된다는 인식을 업계에 각인하는 계기가 됐습니다.

디지털 미디어 및 아동 발달 연구소의 케이트 블로커 책임자는 ”하우젠의 폭로는 기업 자체뿐만 아니라 연구자, 정책 입안자 및 일반 대중에게도 전 세계적으로 중요한 전환점이 됐다”라고 평했습니다.

이번 재판에서도 배심원단이 원고의 손을 들어준 가장 큰 이유 중 하나가 이런 메타의 내부 폭로입니다. 회사가 문제를 알면서도 제대로 관리하지 못해 아동들을 위험에 빠뜨렸다고 판단한 것입니다.

CNBC

에 따르면, 배심원들은 임원 이메일과 프레젠테이션, 메타 직원들이 수행한 내부 연구 등 수백만건의 기업 문서를 평가했습니다. 여기에는 인스타그램에서 원치 않는 성적 접근을 받는 십대 사용자가 우려스러운 수준이라는 내부 설문 조사 결과가 포함돼 있었다고 합니다. 또 페이스북 사용을 줄인 사람들이 우울증과 불안감을 덜 느낀다는 내용의 연구는 메타가 중간에 중단시킨 것으로 전해졌습니다.

원고 측 변호사들은 메타의 내부 연구에만 의존한 것은 아니었지만, 이 결과들이 메타의 과실 혐의에 대한 원고 측 입장을 뒷받침하는 데 도움이 됐다고 밝혔습니다.

메타 측 변호인단은 일부 연구가 오래됐고, 맥락에서 벗어나 있으며, 오해의 소지가 있어 회사의 운영 방식과 안전에 대한 관점을 왜곡하고 있다고 주장했습니다.

메타는 10여년 전 소셜 미디어 서비스가 사용자에게 미치는 영향을 분석하기 위해 사회과학 연구원들을 고용했습니다. 처음에는 기술이 가져올 이점과 잠재적 위험을 진지하게 파악하려는 의도에 따른 것이었습니다. 그러나 이는 거꾸로 자기 발목을 잡는 결과로 이어진 것입니다.

현재 이와 비슷한 상황에 있는 것이 바로 AI 업계입니다. 오픈AI와 앤트로픽 등은 AI 안전과 정렬(alignment)에 대한 팀을 구축하고 연구 결과를 발표하고 있습니다.

담배 회사의 몰락과 소셜 미디어의 타격에 이어 앞으로 AI가 도마 위에 오를 것은 확실해 보입니다. 이미 오픈AI는

청소년 자살 문제

등을 포함해 수십건의 소송에 휘말려 있습니다. 구글도 최근

자살 유도 혐의

로 기소된 상태입니다.

특히 AI 기업은 사용자 참여를 유도하기 위해 챗봇에 아부하는 성향을 주입했다고 비판받고 있습니다.

샘 알트먼 오픈AI CEO

도 지난해 4월 이에 대해 사과하고 모델을 이전 버전으로 롤백하는 조치까지 취했습니다. 이후 AI 정신병에 대한 비판이 집중 제기됐고, 이는 피해자들의 고소로 이어졌습니다.

이런 상태에서 메타의 판결은 AI 기업에 강력한 경고가 될 수 있습니다. 실제로 오픈AI는 지난주

'챗GPT' 성인 모드 출시를 무기한 연기

하고 폐지까지 검토 중이라는 말이 나왔습니다.

또 과거 메타가 하우젠 사태 이후 관련 연구 부서를 대폭 축소한 것처럼, AI 업계도 안전 문제에 더 소극적이고 방어적으로 변할지 주목된다는 말이 나왔습니다.

실제로 현재 AI 업계는 치열한 경쟁으로 인해 제품 출시 시기가 점점 짧아지고 연구와 안전보다 제품 개발을 우선하고 있다는 말이 거듭 등장했습니다. 이 때문에 회사를 그만둔 직원도 적지 않습니다.

블로커 책임자는 이러한 추세에 대해 우려를 표하며, ”이전의 소셜 미디어와 마찬가지로 AI 기업들이 자체 제품에 대해 어떤 연구를 진행하고 있는지에 대한 정보가 대중에게 거의 공개되지 않고 있다”라고 말했습니다.

또 ”기업들은 진행 중인 연구를 부담으로 여길 수도 있지만, 독립적인 제3자 연구는 계속해서 지원돼야 한다”라고 덧붙였습니다.

특히 AI의 안전 연구에서 아동이 차지하는 비중은 매우 작습니다. 현재는 사이버 공격이나 생물학적 무기에 악용될 가능성 등에 집중하는 사실입니다.

블로커 책임자는 “AI 기업들은 과거의 실수를 되풀이하지 않을 기회를 가지고 있다. 우리는 이러한 기업들이 자체 플랫폼에 대해 알고 있는 정보를 대중과 공유하고, 더 나아가 독립적인 평가를 지원할 수 있는 투명성과 접근성을 보장하는 시스템을 시급히 구축해야 한다”라고 강조했습니다.

한편, 담배 회사 비유는 다리오 아모데이 앤트로픽 CEO의 입에서도 나왔습니다.

월스트리트 저널

에 따르면, 그는 오픈AI와 다른 경쟁사들을 '유해한 제품을 알면서도 판매하는 담배 회사'에 비유했습니다. 앤트로픽에는 오픈AI 출신의 안전 연구원들이 대거 옮겨온 상태입니다.

이어 주말 주요 뉴스입니다.

앤트로픽, 사상 최강 모델 '클로드 미소스' 출시 임박

앤트로픽의 실수로 유출된 문서를 통해 현 수준을 한단계 뛰어넘는 차세대 모델 개발이 끝난 것으로 드러났습니다. 그러나 악용 가능성이 워낙 높고 막대한 비용이 필요, 초기에는 일부 테스트를 중심으로 출시할 것으로 보입니다.

지푸, 초저가 코딩 모델 'GLM-5.1' 출시…'클로드 오퍼스 4.6'에 근접

GLM-5로 세계 정상권의 AI 기업으로 자리 잡은 지푸가 성능은 올리고 비용은 낮춘 후속 모델을 출시했습니다. 코딩 실력이 앤트로픽의 최첨단 모델에 근접했다는 것입니다. 이는 불과 한달 반 만에 이뤄진 업데이트라는 점이 더 놀랍습니다.

구글의 내부용 '에이전트 스미스' 인기 폭발..."접근 제한할 정도"

구글의 내부용 코딩 에이전트가 상당한 인기를 끄는 것으로 전해졌습니다. 특히 이름이 눈길을 끕니다. 영화 속 무한 복제되는 악당처럼 이 시스템도 여러 에이전트를 병렬로 활용할 수 있습니다

AI타임스 news@aitimes.com