세계 최고 수준의 AI 모델 학습 기밀이 담긴 설계도가 유출됐을 가능성이 제기됐다. 메타와 오픈AI의 라벨링 파트너인 머코어(Mercor)가 해킹당하며 AI 업계에 비상이 걸렸다.
와이어드는 3일(현지시간) 메타가 머코어와의 100억달러(약 15조원) 규모 협력을 중단했다고 보도했다. 이 회사는 주요 AI 기업들을 위해 맞춤형 학습 데이터셋을 제공한다.
이에 따르면, 공급망 공격으로 인해 철저하게 보호되어 온 기밀, 즉 개인 데이터뿐만 아니라 세계 최고 수준의 대형언어모델(LLM)을 구동하는 학습 방법론이 노출됐다. 변조된 '라이트LLM(LiteLLM)' 오픈소스 라이브러리를 이용한 이번 침해는 오픈AI와 앤트로픽의 조사를 촉발했으며, 4만명 이상의 사용자를 대상으로 하는 집단 소송으로 이어졌다.
이 사건은 지난달 해커들이 널리 사용되는 오픈소스 라이브러리를 공격, 개인 정보를 훔친 데 따른 것이다. 여기에 해커들이 최첨단 모델들이 어떻게 구축되는지에 대한 설계도까지 빼돌렸을 가능성이 제기됐다.
메타는 머코어와의 협력을 일시 중단했다. 이번 중단은 무기한 지속될 예정이다.
나아가 수십억달러를 투자해 비밀 유지를 기대해 온 AI 기업들의 불안감을 조성하는 것으로 알려졌다. 이 회사의 고객으로는 메타를 비롯해 오픈AI, 앤트로픽, 구글 등이 있다.
보안 전문 업체들의 분석에 따르면, 이번 공격은 전형적인 방식으로 이뤄졌다. 공격자가 오픈소스의 취약점을 발견하고 이를 악용해 자격 증명을 탈취하고 데이터를 유출한 것이다.
팀PCP(TeamPCP)라는 해커 집단이 라이트LLM의 소프트웨어를 자동으로 빌드, 테스트 및 배포하는 시스템인 CI/CD 파이프라인을 침해하며 시작됐다. 라이트LLM은 다양한 AI 모델을 하나의 표준 규격으로 호출할 수 있게 해주는 중계 도구로, 수백만명의 개발자가 애플리케이션을 AI 서비스에 연결하는 데 사용하는 오픈소스 파이썬 라이브러리다. 월간 다운로드 수가 9700만건에 달하며 전체 클라우드 환경의 36%에 사용되고 있을 정도로 파급력이 크다.
팀PCP는 앞서 널리 사용되는 보안 스캐너인 트리비(Trivy)에 대한 공격을 통해 라이트LLM 관리자의 자격 증명을 획득했다. 이어 3월27일 획득한 자격 증명을 이용해 라이트LLM 패키지의 악성 버전 두가지를 파이썬 패키지 저장소인 파이피아이(PyPI)에 게시했다. 감염된 패키지는 40여분간 배포된 뒤 발견돼 삭제됐다.
악성코드는 매우 정교한 것으로 알려졌다. 두 변종 모두 환경 변수, API 키, SSH 키, AWS, 구글 클라우드, 애저(Azure)의 클라우드 자격 증명, 쿠버네티스(Kubernetes) 구성, CI/CD 비밀 키, 데이터베이스 자격 증명 등을 수집해 외부로 유출하도록 설계됐다.
The privacy and security of our customers and contractors is foundational to everything we do at Mercor. We recently identified that we were one of thousands of companies impacted by a supply chain attack involving LiteLLM.
Our security team moved promptly to contain and…
— Mercor (@mercor_ai)
March 31, 2026
머코어는 "이번 공격으로 수천개의 기업이 피해를 입었다"라고 확인했으며, 이후 약 4테라바이트(TB)의 데이터가 유출된 사실을 발견했다. 보안 전문가들은 이번 사건이 단순한 해킹이 아닌, 오픈소스 생태계의 약점을 파고들어 글로벌 빅테크의 핵심 기밀까지 도달한 "정교한 연쇄 공급망 공격의 전형"이라고 분석했다.
또 법원에 제출된 서류와 해킹 그룹들의 주장에 따르면, 유출된 데이터에는 939기가바이트(GB)의 플랫폼 소스코드, 211GB의 사용자 데이터베이스, 그리고 약 3TB의 영상 인터뷰 녹화 파일 및 신원 확인 서류가 포함돼 있다. 또 유출된 정보에는 4만명이 넘는 머코어의 전현직 계약업체 직원과 고객의 실명, 사회보장번호가 포함될 가능성이 있다.
특히 머코어가 여러 AI 기업의 데이터 파이프라인에 동시에 접근하고 있었기 때문에, 이번 유출 사고로 기업들이 수년간 수십억달러를 투자해 개발한 데이터 선택 기준, 라벨링 프로토콜, 학습 전략 등에 대한 세부 정보가 노출되었을 가능성이 제기됐다.
경쟁 업체들이 데이터셋을 복제할 수 있지만, 학습 방법론을 복제하는 것은 훨씬 어렵다. 따라서 이런 방법론은 경쟁 우위를 확보하는 데 중요한 요소가 된다. 이 때문에 여러 AI 연구소가 어떤 정보가 유출됐는지 조사에 착수했다.
오픈AI는 이번 사건을 조사 중이라고 밝혔지만, 머코어와의 프로젝트는 중단하지 않았다고 전했다. 앤트로픽은 이번 사태에 대해 공식적인 입장을 밝히지 않았다. 구글도 이번 유출 규모를 내부에서 검토 중인 것으로 알려졌다.
이번 사태 이후 유명 해커그룹 랩서스(Lapsus$)는 머코어 유출본이라고 주장하는 데이터를 다크웹에서 경매에 부치기 시작했다. 보안 전문가들은 랩서스가 팀PCP와 공모했다고 보고 있다. 랩서스는 이전에도 트리비 공격을 통해 1000개 이상의 기업 SaaS 환경에 영향을 미친 공급망 침해 사건의 배후로 추정됐으며, 유럽연합 집행위원회(CERT-EU) 데이터 유출 사건에도 관여한 것으로 지목됐다.
그리고 4월1일 미국 캘리포니아 북부 지방법원에는 리사 길이라는 원고가 머코어를 상대로 집단 소송을 제기했다. 적절한 사이버 보안 조치를 유지하지 않아 4만명이 넘는 사람들이 개인정보 도용 및 사기 피해에 노출됐다는 내용이다.
이번 사건은 AI 업계가 그동안 거의 경험하지 않았던 새로운 구조적 위험을 보여준다는 평이다. 아이키도 시큐리티(Aikido Security) 등 보안 업체들이 경고해 온 '오픈소스 의존성 리스크'가 현실화한 사례로 꼽힌다.
즉, 여러 업체가 동일한 제3자 데이터 공급업체에 의존할 경우, 단 한번의 데이터 유출로 모든 업체의 기밀이 한꺼번에 노출될 수 있다는 것이다.
특히 머코어는 지난해 데이터 라벨링 선두 주자인 스케일 AI가 메타의 투자를 받으며 한꺼번에 고객사를 잃은 뒤, 틈새시장을 공략해 급격한 성장세를 기록하고 있었다.
지난해 10월에는 3억5000만달러 규모의 시리즈 C 투자를 유치하며 기업 가치가 100억달러에 달하며 AI 업계에서 가장 주목받는 비상장 기업 중 하나로 떠올랐다. 또 9월 연간 매출은 5억달러에 달했는데, 이는 6개월 전 1억달러에서 크게 증가한 수치다.
임대준 기자 ydj@aitimes.com
댓글
0