초개인화 LLM 가속기 '소울메이트(SoulMate)'
개인정보 유출 걱정 없는 온디바이스 AI
dbghlwns KAIST 인공지능반도체대학원 교수팀이 사용자 말투·감정까지 학습하는 초개인화 LLM 가속기 '소울메이트(SoulMate)'를 개발했다. [사진=KAIST]
국내 연구팀이 사용자의 말투와 감정까지 학습하는 초개인화 인공지능(AI) 반도체를 세계 최초로 개발했다.
KAIST(총장 이광형)는 유회준 전기및전자공학과교수 연구팀이 개인 맞춤형 거대언어모델(LLM) 가속기 '소울메이트(SoulMate)'를 개발했다고 17일 밝혔다.
이번 기술은 기존 범용 AI를 넘어 사용자의 대화 스타일과 선호도, 감정까지 학습하는 '초개인화 AI' 구현을 목표로 한다.
연구팀은 AI가 사용자와의 상호작용을 통해 실시간으로 학습하고 진화하는 구조를 반도체 수준에서 구현했다.
핵심은 클라우드를 거치지 않고 기기 내부에서 데이터를 처리하는 온디바이스(On-device) 방식이다. 이를 위해 연구팀은 과거 대화를 기반으로 답변을 생성하는 검색증강생성(RAG)과, 사용자 피드백을 즉시 반영하는 로우랭크 미세조정(LoRA) 기술을 칩 내부에 통합했다.
성능도 개선됐다. 소울메이트는 0.2초(216.4ms) 수준의 응답 속도로 실시간 대화와 학습을 동시에 수행하며, 응답 지연을 최대 82.5% 줄였다. 또한 혼합 랭크(Mixed-Rank) 아키텍처를 적용해 에너지 효율을 최대 76.2% 향상시켰다.
전력 소모는 9.8mW 수준으로 스마트폰 프로세서 대비 약 1/500 수준에 불과하다. 이에 따라 스마트폰이나 웨어러블 기기에서도 배터리 부담 없이 개인화 AI 서비스를 구현할 수 있다.
특히 모든 데이터를 기기 내부에서 처리하는 '보안 완결형 AI' 구조를 적용해 개인정보 유출 우려를 차단한 점도 특징이다.
연구팀은 이 기술이 향후 스마트폰, 웨어러블, 개인형 AI 디바이스 등에 적용되며 개인화 AI 시장을 확대할 것으로 기대하고 있다.
유회준 교수는 "이번 연구는 사람들이 서로 우정을 쌓아가는 과정을 모방해 AI가 사용자의 진정한 동반자로 발전할 수 있는 기술적 기반을 마련한 것"이라며 "미래의 인공지능은 단순한 도구를 넘어, 개인의 프라이버시를 완벽히 보호하면서도 언제 어디서나 나를 가장 잘 이해하는 '베프(Best Friend)'와 같은 존재가 될 것"이라고 말했다.
이번 연구는 지난달 미국 샌프란시스코에서 열린 국제고체회로설계학회(ISSCC)에서 하이라이트 논문으로 선정됐으며, 현장에서 실시간 개인화 AI 시연에도 성공했다.
연구팀은 교원 창업기업 온뉴로AI를 통해 2027년 제품화를 추진할 계획이다.
닫기
딥테크 도시 대전을 널리 알리겠습니다.
홍재화 기자의 다른기사 보기
저작권자 © 헬로디디
댓글
0