KAIST 세계 최초 개발
초개인화 인공지능 칩
0.2초 응답·초저전력
▲ 연구성과 브리핑 장면, 왼쪽부터 홍성연 박사과정(1 저자), 유회준 교수(교신저자)
사용자의 말투와 감정까지 학습해 개인에게 맞춰 진화하는 인공지능 반도체가 국내 연구진에 의해 처음 개발됐다. 스마트폰 안에서 작동하며 사용자와 지속적으로 대화하고 학습하는 개인형 AI 시대를 앞당길 기술로 평가된다.
KAIST는 인공지능반도체대학원 유회준 교수 연구팀이 개인 맞춤형 거대언어모델(LLM) 가속기 '소울메이트(SoulMate)'를 개발했다고 밝혔다.
현재 널리 활용되는 거대언어모델은 다양한 질문에 답할 수 있지만 사용자의 말투나 감정, 이전 대화 맥락을 깊이 이해하는 데는 한계가 있었다. 연구팀은 이러한 한계를 해결하기 위해 사용자의 특성을 지속적으로 학습하는 개인화 AI 반도체 기술을 구현했다.
▲ 소울메이트 데모 화면
'소울메이트'의 핵심은 외부 서버를 거치지 않고 기기 내부에서 데이터를 처리하는 온디바이스 AI 구조다. 모든 정보가 기기 안에서 처리되기 때문에 개인정보가 외부로 전송되지 않는 보안 환경을 갖췄다.
연구팀은 대화 기록을 기반으로 맞춤형 답변을 생성하는 검색증강생성(RAG) 기술과 사용자 피드백을 즉시 반영하는 로우 랭크 미세조정(LoRA) 기술을 반도체 내부에 구현했다. 이를 통해 대화와 학습이 동시에 이루어지는 개인형 AI 에이전트를 실현했다.
성능도 크게 개선됐다. 응답 속도는 약 0.2초 수준으로 기존 방식 대비 지연 시간이 82.5% 줄었다. 에너지 효율은 76.2% 향상됐다.
전력 소비는 9.8밀리와트에 불과하다. 이는 스마트폰 프로세서 소비 전력의 약 500분의 1 수준으로 모바일 기기에서도 장시간 구동이 가능하다.
▲ ISSCC (국제고체회로설계학회) 데모 시연
연구팀은 정보 중요도에 따라 연산 방식을 조절하는 혼합 랭크 아키텍처를 적용해 학습과 추론을 동시에 수행하면서도 전력 사용을 크게 낮췄다고 설명했다.
유회준 교수는 "인공지능이 사용자의 대화 방식과 감정을 이해하며 함께 성장하는 기술 기반을 마련했다"며 "앞으로 AI는 개인 정보를 보호하면서도 사용자를 가장 잘 이해하는 동반자로 발전할 것"이라고 말했다.
이번 연구는 홍성연 박사과정 연구원이 1 저자로 참여했으며 지난 2월 미국 샌프란시스코에서 열린 International Solid-State Circuits Conference에서 '하이라이트 논문'으로 선정됐다.
'소울메이트' AI 반도체는 교원 창업기업 온뉴로AI를 통해 2027년경 제품화가 추진될 예정이다. /대전=이한영기자
이한영 기자
다른기사 보기
저작권자 © 충청일보
댓글
0