김성준 교수팀, 하나의 소자에 두 가지 저장 기능 구현
정보 저장·연산 함께 처리 … 전력 소모 감소 기대
동국대학교 연구팀이 인공지능의 데이터 처리 부담을 줄일 수 있는 새로운 반도체 기술을 개발했다. 새로운 기술은 하나의 반도체 소자에 두 가지 메모리 기능을 구현해 정보를 저장하고 계산하는 과정을 효율적으로 처리하는 방식이다.
동국대는 전자전기공학과 김성준 교수 연구팀이 서울과학기술대 심원보 교수 연구팀 등과 공동으로 수행한 연구가 지난 9월 3일 국제학술지 ‘Materials Horizons’에 게재됐다고 18일 밝혔다.
연구팀에 따르면 챗GPT와 같은 대규모 언어모델은 질문에 답하기 위해 방대한 정보를 처리한다. 특히 대화가 길어질수록 앞서 처리한 정보를 기억하는 데 필요한 메모리 용량이 늘어난다. 데이터를 저장하고 계산하는 장치 사이에서 정보를 반복적으로 옮기는 것도 처리 속도와 전력 사용에 부담을 준다.
연구팀은 이 문제를 해결하기 위해 하나의 소자에 서로 다른 두 가지 메모리 기능을 구현했다.
첫 번째 기능은 정보를 빠르게 바꾸는 데 적합하다. 인공지능이 작업을 진행하면서 계속 갱신해야 하는 정보를 저장하는 역할을 한다.
두 번째 기능은 정보를 오랫동안 유지하는 데 적합하다. 인공지능이 학습을 통해 익힌 정보인 모델 가중치를 저장하고, 필요한 계산도 수행하도록 설계했다.
두 기능을 하나의 구조에서 활용하면 데이터 이동을 줄이고 메모리 안에서 일부 연산을 처리할 수 있다.
실험에서는 첫 번째 기능이 1억분의 14초 만에 상태를 바꾸는 성능을 보였다. 두 번째 기능은 8가지 정보 상태를 1만초 동안 안정적으로 유지했다.
연구팀은 실제 소자에서 측정한 성능을 대규모 언어모델 ‘라마2-7B’에 적용한 컴퓨터 모의실험도 진행했다. 이를 통해 개발한 구조를 인공지능 연산에 활용할 가능성을 확인했다.
김성준 교수는 “서로 다른 메모리의 특성을 활용해 인공지능 연산에 필요한 정보 저장과 계산을 하나의 구조에서 처리할 수 있다는 가능성을 제시했다”며 “향후 메모리 부담과 전력 소모를 줄이는 기술로 활용될 것으로 기대한다”고 밝혔다.
이번 연구에는 동국대 이영서 석사과정생·김나운 석사와 서울과학기술대 최민기 석사과정생이 공동 제1저자로 참여했다.
댓글
0