[글로벌] "지금 AI는 최악의 모델"...오픈AI, Arm과 '저전력 CPU 기반 추론...

/사진=디디다 컴퍼니 제공

오픈AI가 에이전틱 인공지능(AI) 시대를 대비해 데이터센터 인프라 구조 전환에 나섰습니다. GPU 중심 구조에서 벗어나 저전력 고효율 CPU 기반의 시스템 최적화를 통해 추론 성능을 극대화하겠다는 전략입니다.

지난 24일(현지시간) 케빈 휠 오픈AI 임원은 미국 샌프란시스코에서 열린 'Arm 에브리웨어' 컨퍼런스에서 "AI 성능은 더 이상 단일 가속기가 아니라 시스템 전체 효율로 결정된다"고 밝혔습니다.

현재 AI 산업은 GPU 중심의 연산 경쟁이 이어지고 있지만, 오픈AI는 CPU의 역할을 재정의하고 있습니다. 에이전틱 AI가 복잡한 작업을 수행하는 과정에서 컨테이너 제어, 코드 실행, 도구 호출 등 대부분의 오케스트레이션은 CPU에서 이뤄지기 때문입니다.

오픈AI 내부에서는 컴퓨팅 자원 부족이 가장 큰 과제로 떠올랐습니다. 고객 수요와 신규 아이디어가 데이터센터 인프라 공급 속도를 앞지르면서, 동일 전력 내에서 더 높은 효율을 확보하는 것이 핵심 과제로 부상했습니다.

이에 따라 오픈AI는 Arm 기반의 'AGI CPU'를 활용해 전력 효율을 극대화하는 전략을 추진합니다. CPU에서 절감한 전력을 GPU 및 가속기의 추론 연산에 재투입함으로써 전체 시스템 성능을 끌어올리는 구조입니다.

이는 단순한 비용 절감이 아닌 AI 지능 향상과 직결됩니다. 더 많은 전력을 추론에 할당할수록 모델이 사고하고 연산하는 시간이 늘어나고, 결과적으로 더 복잡한 문제 해결이 가능해지기 때문입니다.

오픈AI는 이러한 인프라 전환이 에이전틱 AI 시대의 필수 조건이라고 보고 있습니다. 단순 텍스트 생성 수준을 넘어 과학, 수학, 생물학 등 고난도 문제를 해결하기 위해서는 장시간의 연산과 대규모 컴퓨팅 자원이 필요하기 때문입니다.

실제로 오픈AI는 로봇 연구와 연계해 수주 동안 3만6000회 이상 실험을 수행하며 단백질 합성 최적화에서 인간을 능가하는 성과를 거둔 바 있습니다. 이는 AI가 단순한 확률 모델을 넘어 실제 과학적 발견 도구로 진화하고 있음을 보여주는 사례입니다.

오픈AI는 앞으로의 AI 경쟁이 "누가 더 많은 GPU를 확보하느냐"가 아니라 "누가 더 효율적으로 시스템을 설계하느냐"로 이동할 것으로 보고 있습니다. Arm과의 협력은 이러한 방향성을 상징적으로 보여주는 사례입니다.

결국 AI 인프라 경쟁의 축이 '연산 성능'에서 '전력 효율 기반 시스템 설계'로 이동하면서, 향후 데이터센터 구조와 반도체 생태계 전반에 어떤 영향을 미칠지 주목됩니다.

자료=미디어뱀부

정리=김현기 기자 khk@techm.kr