[AI 리뷰] 메타, "자체 칩으로 생성형 AI 인프라 승부수"...AI 가속기 'MT...

추천·랭킹 AI부터 생성형 AI까지 자체 칩 확대…6개월 단위 개발 전략으로 AI 인프라 효율성 강화

이미지:아이스톡

메타(Meta)가 자사의 인공지능 인프라 전략의 핵심으로 자체 AI 반도체 '메타 학습 및 추론 가속기(Meta Training and Inference Accelerator. 이하, MTIA)’ 로드맵을 공개했다.

메타는 향후 2년 동안 4세대의 MTIA 칩을 개발·배치할 계획이다. 이번 전략은 메타의 추천 알고리즘과 생성형 AI 서비스 증가에 대응해 AI 연산 효율성과 비용 구조를 동시에 개선하기 위한 것이다.

MTIA는 메타가 2023년 처음 공개한 AI 학습 및 추론용 맞춤형 반도체 제품군으로, ·인스타그램·릴스 등 플랫폼에서 동작하는 추천·랭킹 시스템과 광고 AI 모델의 추론 작업을 처리하기 위해 설계됐다. 현재 메타는 수십만 개 규모의 MTIA 칩을 데이터센터에 배치해 운영 중이다.

MTIA 실물이미지(사진:메타)

메타는 이번 발표에서 MTIA를 자사 AI 인프라 전략의 핵심 축으로 유지하면서도 다양한 외부 칩을 병행 사용하는 ‘포트폴리오 전략’을 통해 인프라 확장 속도를 높이겠다는 방침을 밝혔다.

메타는 향후 2년 동안 MTIA 300, 400, 450, 500 등 총 4세대 칩을 순차적으로 출시할 계획이다. MTIA 300는 메타 인프라의 강력한 토대 생성형 AI가 대두되기 이전, 메타의 핵심 워크로드였던 랭킹 및 추천(R&R) 모델에 최적화되어 개발된 제품이다. 비록 생성형 AI 시대 이전에 설계되었으나, 그 설계 방식과 구성 요소들은 후속 칩들이 생성형 AI 모델에 최적화될 수 있도록 하는 강력한 기술적 기반이 되었다.

MTIA 300 아키텍처 블록 다이어그램(출처:메타,)

이어 등장할 MTIA 400, 450, 500은 모든 AI 워크로드를 처리할 수 있도록 설계됐지만, 특히 생성형 AI 추론 작업을 중심으로 활용될 전망이다. 메타는 이러한 칩을 통해 2027년까지 생성형 AI 서비스 운영을 위한 대규모 추론 인프라를 구축한다는 계획이다.

MTIA 400은 고성능 생성형 AI 대응의 시작 GenAI의 급격한 성장에 발맞추어, 기존 R&R 워크로드 지원 기능을 유지하면서도 생성형 AI 모델 지원 능력을 대폭 강화한 모델이다. 특히 72개의 가속기로 구성된 스케일업(Scale-up) 도메인을 특징으로 하며, 시장의 주요 상용 GPU 제품과 경쟁할 수 있는 수준의 고성능을 제공한다. 이미 연구실 테스트를 성공적으로 마쳤으며, 현재 데이터센터 배포를 위한 최종 준비 단계에 있다.

MTIA 400 아키텍처 블록 다이어그램(출처:메타,)

MTIA 450은 추론 최적화와 메모리 대역폭의 혁신 폭발적으로 증가하는 생성형 AI 추론 수요를 충족하기 위해 MTIA 400의 설계를 한 단계 더 업그레이드한 모델이다. 추론 성능의 핵심 지표인 고대역폭 메모리(HBM) 대역폭을 전작 대비 2배로 확장하여, 기존 상용 제품을 능가하는 처리 성능을 구현했다. 또한, 추론 효율을 극대화하기 위해 저정밀도 데이터 유형을 새롭게 추가했으며, 2027년 초 대규모 배포를 목표로 하고 있다.

MTIA 450 아키텍처 블록 다이어그램(출처:메타,)

MTIA 500은 차세대 생성형 AI 추론의 표준 GenAI 추론 분야에서의 초격차를 유지하기 위해 개발된 로드맵의 정점이다. MTIA 450보다 HBM 대역폭을 50% 추가로 향상시켰으며, 저정밀 데이터 처리에 있어 혁신적인 기능을 도입하여 연산 효율을 극대화했다. 메타는 2027년 내에 MTIA 500을 대규모로 배포하여 자사의 AI 서비스 인프라를 완성할 계획이다.

MTIA 500 아키텍처 블록 다이어그램(출처:메타,)

새로운 칩들은 기존 데이터센터 랙 시스템과 호환되는 모듈형 설계를 채택해 기존 인프라에 바로 적용할 수 있도록 했다. 이를 통해 새로운 칩을 빠르게 배치하고 서비스 운영에 투입할 수 있다는 설명이다.

“6개월마다 칩 출시”…반도체 개발 속도 높여

메타는 이번 MTIA 전략에서 빠른 반복 개발(Rapid Iterative Development) 을 핵심 경쟁력으로 제시했다.

일반적으로 AI 반도체는 1~2년 주기로 새로운 세대가 출시되지만, 메타는 모듈형 설계와 재사용 가능한 아키텍처를 활용해 6개월 이하 주기로 새로운 칩을 개발할 수 있는 역량을 확보했다고 밝혔다.

이 같은 방식은 새로운 AI 기술 변화에 빠르게 대응하고 최신 반도체 기술을 빠르게 도입하는 동시에 칩 개발과 배치 비용을 줄이는 효과를 기대할 수 있다는 설명이다.

메타의 MTIA 전략에서 또 다른 특징은 ‘추론 중심’ 설계 전략이다. 일반적인 AI 반도체는 대규모 생성형 AI 모델 사전 학습을 중심으로 설계된 뒤 다양한 AI 작업에 적용되는 경우가 많다. 그러나 메타는 MTIA 450과 500을 생성형 AI 추론 작업에 최적화된 구조로 먼저 설계하고, 필요할 경우 학습이나 추천 알고리즘 등 다른 AI 작업에도 활용하는 방식을 택했다.

이는 향후 AI 서비스에서 추론 연산 수요가 폭발적으로 증가할 것이라는 전망을 반영한 전략이다.

오픈 생태계 기반 설계

MTIA는 산업 표준 소프트웨어 및 하드웨어 생태계를 기반으로 설계됐다.

메타는 칩 개발 단계부터 파이토치(PyTorch), 브이엘엘엠(vLLM), 트라이톤(Triton) 등 AI 소프트웨어 프레임워크와 호환되도록 설계했으며, 데이터센터 인프라 역시 오픈 컴퓨트 프로젝트(Open Compute Project. 이하, OCP) 표준을 따르도록 구축했다.

OCP는 데이터센터의 하드웨어 설계를 오픈 소스 소프트웨어처럼 공개하여, 누구나 효율적이고 확장 가능한 인프라를 구축할 수 있도록 돕는 글로벌 협력 기구이다. 2011년 (현 메타)이 자사의 효율적인 데이터센터 설계 노하우를 공유하면서 시작되었으며, 현재는 인텔, 구글, 마이크로소프트, 삼성전자, SK하이닉스 등 전 세계 기술 리더들이 참여하는 거대한 생태계로 성장했다.

이를 통해 MTIA 칩을 기존 데이터센터 환경에 마찰 없이(frictionless) 배치할 수 있도록 했다는 설명이다.

메타의 MTIA 로드맵은 빅테크 기업들이 AI 인프라 경쟁력을 확보하기 위해 자체 반도체 개발을 강화하는 흐름을 보여준다.

대규모 생성형 AI 서비스가 확산되면서 데이터센터 운영 비용과 전력 소비가 급증하고 있으며, 이에 따라 기업들은 워크로드에 최적화된 맞춤형 AI 칩을 통해 비용 효율성과 성능을 동시에 확보하려는 전략을 추진하고 있다.

특히, 메타는 추론 중심 설계와 빠른 칩 개발 주기를 통해 생성형 AI 서비스 확산에 필요한 대규모 AI 인프라를 자체적으로 구축하려는 전략을 분명히 하고 있다. 이 같은 흐름은 향후 빅테크 기업 간 ‘AI 칩 주권 경쟁’이 더욱 치열해질 것임을 시사한다.

정한영 기자

다른기사 보기

저작권자 © 인공지능신문