웨이퍼 분석하는 이미지 모델 공개
업계 최고 성능으로 2030 AI팹 박차
물성 예측 AI도 정확도 90% 달성
적합재료 찾는 실험시간 75% 단축
SK하이닉스 이천 연구개발센터 조감도. 사진제공=SK하이닉스
SK하이닉스(000660)
가 웨이퍼(기판) 결함을 골라내는 반도체 제조부터 신소재 특성을 분석해 성능을 높이는 연구개발(R&D)까지 전방위적인 인공지능(AI) 도입을 준비하고 있다. AI로 생산과 R&D 효율을 획기적으로 높임으로써 삼성전자·마이크론 등과의 반도체 주도권 경쟁에서 한발 앞서나가려는 포석이다.
3일 업계에 따르면 SK하이닉스는 고려대 연구진과 함께 ‘웨이퍼 투과전자현미경(TEM) 이미지용 초고해상도 모델’을 개발해 지난달 30일(현지 시간) 네이처 자매지 ‘사이언티픽 리포트’에 공개했다. SK하이닉스가 자금을 지원하고 공동 연구를 수행해 얻은 성과다.
연구진이 개발한 AI 모델은 일종의 ‘웨이퍼 결함을 잡는 눈’이다. 현재 이미지 모델들이 이미지를 인식하고 분석할 수 있듯, 반도체 회로가 그려진 웨이퍼도 AI 모델을 활용해 기존 수작업으로 이뤄져온 분석을 효율화할 수 있다. 투과전자현미경은 광학 현미경과 달리 빛 대신 전자를 웨이퍼에 투과시켜 원자 배열처럼 ㎚(나노미터·10억 분의 1m) 수준의 물질 특성도 파악할 수 있게 해준다.
문제는 투과전자현미경으로 찍은 웨이퍼 이미지를 현존하는 이미지 모델들로 분석하기 어렵다는 점이다. 현재 이미지 모델들은 광학 이미지를 학습해 개발됐다. 광학 이미지와 투과전자현미경 이미지는 서로 특성이 달라 분석법도 다르다. 반도체 구조가 미세한 만큼 더 정밀한 분석 성능도 필요하다.
연구진은 투과전자현미경으로 촬영한 웨이퍼를 분석하는 데 특화한 모델을 개발했다. 이 모델은 이미지 분석의 정확도 지표인 ‘평균 합집합 대비 교집합 비율(mIoU)’ 성능 평가에서 68.2%의 결과를 얻었다. 구글 모델을 포함한 기존 9개 모델들보다 평균 10.3%포인트 높았다. AI로 제조공정을 효율화·자동화하는 AI 팹(생산시설) 핵심 기술인 결함 분석 성능을 유의미하게 높일 수 있는 방법을 찾은 것이다. 반도체는 수율 1% 차이가 수백억 원의 연매출 차이로 이어질 수 있다.
이번 연구는 SK하이닉스가 추진 중인 AI 팹 구축 계획의 일환으로 풀이된다. SK하이닉스는 지난달 엔비디아의 연례 개발자 회의 ‘GTC 2026’에서 2030년까지 공장이 스스로 학습하고 의사결정을 수행해 설계부터 양산까지의 전환 속도를 획기적으로 단축할 수 있는 자율형 팹 구축 계획을 발표했다. AI 팹은 앞서 SK텔레콤 주도로 엔비디아의 최신 그래픽처리장치(GPU) 2000장 규모로 짓기로 한 AI 데이터센터 ‘제조 AI 클라우드’를 통해 주로 구현될 것으로 전해졌다.
SK하이닉스는 피지컬 AI와 자율주행 로봇 등 AI 팹 기술들을 통해 설비 유지보수, 결함 분석 등 주요작업 처리 시간을 50% 이상 단축하고 부품 재도를 약 30% 절감할 수 있을 것으로 기대했다. 용인·이천 등 주요 공장에 AI를 적극 도입해 고대역폭메모리(HBM) 등 주력 제품의 생산 규모를 늘리는 동시에 비용을 획기적으로 줄일 방침이다.
SK하이닉스는 제조뿐 아니라 연구개발(R&D)에서도 시간과 비용 절감을 위해 AI 도입을 확대 중이다. 일례로 SK AX를 통해 도입한 ‘AI 물성 예측 시스템(AIPS)’은 최근 내부적으로 글로벌 최고 수준에 맞먹는 90%의 정확도를 달성했다.
AIPS는 반도체 소재의 구성물질인 전이금속 수십종의 정보를 학습해 물성, 즉 물질 특성을 예측해주는 솔루션이다. 반도체 성능을 높일 수 있는 신소재를 빠르게 발굴할 수 있다. SK하이니스는 AIPS 도입을 통해 지난해 85% 정확도 기준으로 턴어라운드타임(작업시간)이 기존 대비 75% 단축하고 연간 개발 가능한 소재 수는 연구원 3인 팀 기준 7종에서 10종으로 늘릴 수 있다고 분석했다.
SK하이닉스는 올 2월 반도체 산업 전시회 ‘세미콘 코리아 2026’에서도 관련 전략을 공개했다. 이성훈 SK하이닉스 부사장은 “인력을 동원해 데이터베이스와 논문 같은 자료를 탐색해 반도체 신물질을 탐색하는 기존 연구개발(R&D) 방식으로는 2년 간 200종 정도 물질을 찾을 수 있었다”며 “반면 AI를 도입한 결과 작업 시간을 기존 대비 400분의 1로 단축하는 데 성공했다”고 말했다. 그는 그러면서 “AI 시대에 걸맞게 AI 기반 R&D 방식 도입을 검토해 봐야한다”고 전했다.
댓글
0