본문 바로가기
사회

"AI 병목, GPU 아니라 네트워크였다"…데이터센터 판 바꾸는 '빛의 반도...

글로벌 빅테크 기업들도 발 빠르게 움직이고 있다. 지난 3월 AMD, 브로드컴, 메타 등은 광 인터커넥트 생태계 구축을 위한 'OCI MSA' 컨소시엄을 출범시키며 표준화 작업에 착수했다. 업계에서는 이를 AI 시대 '광...

"AI 병목, GPU 아니라 네트워크였다"…데이터센터 판 바꾸는 '빛의 반도...

[뉴시안= 이태영 기자]AI 산업의 승부처가 연산 성능에서 네트워크로 이동하고 있다. 생성형 AI와 AI 에이전트 확산으로 수천 개의 GPU가 동시에 데이터를 주고받는 시대가 열리면서, 더 이상 GPU 성능만으로는 AI 인프라 경쟁력을 확보할 수 없게 됐기 때문이다. 업계는 이제 전기를 대신해 빛으로 데이터를 전달하는 차세대 광(光) 인터커넥트 기술 ‘CPO(Co-Packaged Optics)’를 차세대 AI 데이터센터의 핵심 인프라로 주목하고 있다.

지난해 11월 3일 서울 강남구 코엑스에서 열린 'SK AI SUMMIT 2025'에 AI데이터센터가 전시되어 있다. [사진=뉴시스]

하나금융연구소는 최근 발간한 보고서 ‘빛으로 연결되는 AI 인프라: CPO의 부상’을 통해 “AI 데이터센터의 성능 병목이 연산과 메모리를 지나 네트워크로 이동했다”며 “광 인터커넥트 중심의 인프라 전환이 본격화될 것”이라고 진단했다.

보고서에 따르면 최근 AI 모델은 단일 칩 중심 구조에서 벗어나 수백~수천 개의 GPU와 메모리가 병렬로 연결돼 하나의 작업을 수행하는 형태로 진화하고 있다. 특히 AI 에이전트 등장 이후 AI 서비스가 학습 중심에서 추론 중심으로 확대되면서, 연산 속도보다 데이터 전송 지연(latency)이 시스템 성능을 좌우하는 핵심 변수로 부상했다.

이는 곧 AI 인프라의 병목 지점이 바뀌고 있다는 의미다. 그동안 반도체 업계는 GPU 성능과 HBM(고대역폭메모리) 경쟁에 집중해 왔지만, 이제는 데이터 이동 속도를 결정하는 네트워크가 전체 AI 처리 효율을 좌우하기 시작했다는 분석이다. 연구소는 GPU를 ‘슈퍼카’, HBM을 ‘고성능 엔진’에 비유하며 “아무리 빠른 차량과 엔진을 갖춰도 고속도로 폭이 좁으면 성능을 낼 수 없다”고 설명했다.

문제는 기존 구리 기반 전기 인터커넥트가 초고속 AI 환경에서 물리적 한계에 도달하고 있다는 점이다. 구리 배선은 데이터 전송 속도가 높아질수록 저항에 따른 발열과 신호 손실이 급격히 증가한다. 현재 데이터센터에서는 800Gbps급 네트워크가 확산되고 있고 1.6Tbps급 전환도 시작됐지만, 업계에서는 구리 기반 연결만으로는 안정적인 성능 유지가 어렵다는 평가가 나온다.

이 같은 한계를 돌파할 기술로 부상한 것이 광 인터커넥트다. 광 인터커넥트는 전기 대신 빛(광자)으로 데이터를 전달하는 방식이다. 저항이 거의 없어 발열과 신호 감쇠가 적고, 초고속·장거리 데이터 전송에 유리하다. 이미 국가 간 해저 케이블 등 장거리 통신에서는 광통신이 표준으로 자리 잡았으며, 이제 적용 범위가 AI 데이터센터 내부 네트워크로 빠르게 확산되고 있다.

특히 업계가 주목하는 기술은 CPO다. 현재 데이터센터에서 주로 사용하는 플러거블(Pluggable) 방식은 광 트랜시버를 네트워크 장비 외부 포트에 꽂는 구조다. 이 경우 스위치 ASIC와 광 모듈이 떨어져 있어 전기 신호가 긴 구리 배선을 지나야 하고, 이 과정에서 지연과 전력 손실이 발생한다.

반면 CPO는 스위치 ASIC와 광 엔진을 동일 패키지 안에 집적하는 구조다. 전기 신호 이동 거리를 수㎜~1㎝ 수준으로 줄여 신호 손실과 지연을 최소화한다. 신호 보정용 DSP 등 추가 부품도 대폭 줄일 수 있어 전력 효율 개선 효과도 크다.

하나금융연구소는 엔비디아의 CPO 기반 네트워크 시스템 ‘Spectrum-X Photonics’를 인용해 “플러거블 방식 대비 신호 손실은 80% 이상, 전력 소모는 70% 이상 감소할 수 있다”고 분석했다. AI 데이터센터 운영비 가운데 전력 비용 비중이 30%를 웃도는 상황에서, CPO는 단순한 속도 경쟁을 넘어 AI 서비스 수익성을 좌우할 기술로 평가받고 있다.

글로벌 빅테크 기업들도 발 빠르게 움직이고 있다. 지난 3월 AMD, 브로드컴, 메타 등은 광 인터커넥트 생태계 구축을 위한 ‘OCI MSA’ 컨소시엄을 출범시키며 표준화 작업에 착수했다. 업계에서는 이를 AI 시대 ‘광 네트워크 동맹’의 출범으로 해석하고 있다.

브로드컴은 자사 스위치 ASIC ‘토마호크(Tomahawk)’ 시리즈에 광 엔진을 통합한 CPO 시스템을 개발하며 상용화 경쟁을 선도하고 있다. 엔비디아 역시 차세대 AI 인프라 전략의 핵심 축으로 CPO를 전면 배치했다. 올해 하반기 출시 예정인 차세대 AI 플랫폼 ‘루빈(Rubin)’에는 CPO 기반 네트워크 스위치 ‘퀀텀(Quantum)’과 ‘스펙트럼-X(Spectrum-X)’가 탑재될 예정이다.

더 주목되는 부분은 적용 시점이다. 엔비디아는 당초 2033년 이후로 예상했던 GPU 단위 광 인터커넥트 적용 시점을 2028년으로 앞당겼다. 이는 광 인터커넥트가 단순 네트워크 장비를 넘어 GPU와 GPU를 직접 연결하는 단계로 빠르게 진화하고 있음을 의미한다.

CPO 생태계 경쟁은 광 엔진·광원·파운드리·패키징까지 산업 전반으로 확산되고 있다. 광 엔진 분야에서는 Coherent, Marvell 같은 기존 광통신 기업과 Ayar Labs, Lightmatter 등 스타트업들이 경쟁 중이다. Ayar Labs는 광 I/O 칩렛 ‘TeraPHY’를 통해 100Tbps급 칩 간 연결 기술을 시연하며 차세대 광 인터커넥트 시장의 핵심 기업으로 부상하고 있다.

실리콘 포토닉스 파운드리 경쟁도 본격화됐다. TSMC는 광 소자 생산과 적층 패키징을 결합한 ‘COUPE’ 플랫폼을 앞세워 시장을 선도하고 있으며, GlobalFoundries도 ‘GF Fotonix’를 통해 고객사를 확대하고 있다.

국내 기업들도 시장 진입에 속도를 내고 있다. 삼성전자는 OFC 2026에서 실리콘 포토닉스 파운드리 사업 진출을 공식화했고, 글로벌 광통신 업체와 양산 프로젝트를 추진 중이다. 오이솔루션은 CPO용 고출력 외부 광원 모듈 개발에 나섰으며, 퀄리타스반도체는 실리콘 포토닉스 국책 과제를 통해 관련 기술 확보를 추진하고 있다. 티에프이와 ISC는 CPO용 테스트 소켓 시장 공략에 나섰다.

하나금융연구소는 “AI 데이터센터 트래픽 증가와 전력 부담 확대는 광 인터커넥트 도입을 구조적으로 가속화할 것”이라며 “CPO 시장은 2030년 약 81억달러 규모로 급성장할 전망”이라고 내다봤다.

이어 “중장기적으로는 네트워크 스위치와 AI 가속기의 경계가 희석되고, 광통신·반도체·첨단 패키징 산업이 융합된 새로운 생태계가 형성될 것”이라며 “한국 역시 선제적인 공급망 구축과 기술 투자 없이는 차세대 AI 인프라 경쟁에서 뒤처질 수 있다”고 강조했다.

이 기사 공유하기
페이스북X

이 기사를 추천합니다

i

댓글

0

후 댓글을 작성할 수 있습니다.

아직 댓글이 없습니다 이 기사에 첫 의견을 남겨보세요.

댓글 수정