[GTC 2026] 엔비디아, 반도체 설계용 GPU 가속 양자화학 라이브러리 'cuE...

엔비디아 팀 코스타 반도체 엔지니어링 총괄은 3일 서울 코엑스 오디토리움에서 열린 ‘SK AI 서밋 2025’에서 ‘차세대 반도체 설계 및 제조를 위한 AI 슈퍼컴퓨팅’ 주제 발표를 진행했다. 사진=이코노믹리뷰 양정민 기자

엔비디아가 17일(현지시간) 미국 새너제이에서 열린 'GTC 2026'에서 전자 구조 계산을 GPU로 전환하는 새로운 CUDA-X 라이브러리 'cuEST'를 출시했다. 초기 도입 기업으로는 삼성전자·TSMC·어플라이드 머티어리얼즈·시높시스가 참여한다.

cuEST는 반도체 설계에서 가장 핵심적인 원자 수준 시뮬레이션, 즉 전자가 어떻게 결합하고 이동하며 수 개의 원자 두께에 불과한 박막을 가로질러 어떻게 상호작용하는지를 GPU로 대폭 가속하기 위해 개발됐다. 원자 수준 모델링에서 가장 널리 쓰이는 밀도범함수이론(DFT)은 정확도와 확장성 면에서 뛰어나지만 높은 계산 비용 탓에 대부분의 적용이 연구 단계에 머물러 왔다. 기존에는 CPU 클러스터로 게이트 유전체·인터커넥트 금속 등 후보 물질을 한 번에 하나씩 수 시간 또는 수일에 걸쳐 평가해야 했다.

cuEST는 가우시안 기반 DFT 계산의 핵심 행렬 연산에 최적화된 GPU 가속 루틴을 제공하며, 표준 일반화 기울기 근사부터 하이브리드 함수까지 다양한 함수 근사를 지원해 계산 비용과 정확도 간의 균형을 조율할 수 있다.

초기 도입 기업들의 성과도 구체화됐다. 삼성전자는 기존 GPU 가속 파이프라인에 cuEST를 통합해 주요 양자화학 워크로드에서 엔드투엔드 기준 최대 5배의 추가 속도 향상을 실현하고 있다. 시높시스는 cuEST와 퀀텀ATK(QuantumATK)를 결합해 반도체 워크플로우 시뮬레이션을 최대 30배 가속하고 있으며, 어플라이드 머티어리얼즈는 cuEST 기반 DFT를 활용해 복잡한 물질 구조 모델링과 반응 경로 연구에 적용하고 있다.

TSMC는 차세대 실리콘 설계를 위한 공정 발전에 cuEST의 가속 양자화학을 활용하고 있다.

팀 코스타 엔비디아 산업 컴퓨팅 엔지니어링 총괄 책임자는 "반도체 스케일링이 소재의 물리적 한계에 도달하면서 차세대 칩 설계의 양자역학을 시뮬레이션하기 위한 컴퓨팅 성능의 대폭 향상이 요구되고 있다"며 "cuEST를 통해 업계 선도 기업들이 고정밀 화학 모델링을 프로덕션에 직접 적용함으로써 반도체 혁신을 가속화할 수 있을 것"이라고 말했다.