멀티모달 AI '치명적 망각' 문제 해결
지식 편집 성능 두 배 이상 향상
국내 연구팀이 새로운 지식을 학습해도 기존 정보를 잊지 않는 인공지능(AI) 기술을 개발했다. [사진=한국전자통신연구원]
새로운 것을 배우면 기존 지식을 잊어버리는 'AI의 건망증' 문제를 해결할 기술이 나왔다.
한국전자통신연구원(ETRI·원장 방승찬)은 임수종 언어지능연구실 실장 연구팀이 포항공과대학교, 성균관대학교와 공동으로 '연속·복합 지식 편집 기술(MemEIC)'을 개발했다고 24일 밝혔다. 해당 연구는 세계 최고 권위의 인공지능 학술대회인 ‘NeurIPS 2025’에 채택되며 기술력을 인정받았다.
최근 챗GPT, 제미나이 등 멀티모달 AI는 이미지와 텍스트를 동시에 이해하는 수준까지 발전했지만 새로운 정보를 학습하는 과정에서 기존 지식을 잊어버리는 '치명적 망각' 문제가 한계로 지적돼 왔다.
특히 시각 정보와 언어 정보를 함께 수정할 경우 두 정보가 뒤섞이며 잘못된 답변을 내놓는 사례도 적지 않았다.
실제 사례도 있다. AI에게 "사진 속 디저트는 두바이 쫀득 쿠키"라는 시각 정보와 "두쫀쿠는 한국에서 인기가 많다"는 언어 정보를 학습시킨 뒤 "이 디저트는 어느 나라에서 인기가 많은가"라고 질문하면, 기존 모델은 이를 제대로 연결하지 못하고 엉뚱한 답을 내놓는 경우가 많았다.
연구팀은 이 문제를 해결하기 위해 기존처럼 AI 내부 파라미터를 직접 수정하는 방식 대신 새로운 정보를 외부 메모리에 저장하는 구조를 도입했다. 필요할 때만 정보를 불러와 활용하는 방식으로 기존 지식의 손상을 최소화하면서도 새로운 지식을 안정적으로 추가할 수 있도록 했다.
기술 구조는 인간의 뇌에서 착안했다. 이미지 정보는 '시각 어댑터', 텍스트 정보는 '언어 어댑터'에 각각 분리 저장하고, '지식 커넥터'가 이를 상황에 맞게 결합해 답을 생성하는 방식이다. 이를 통해 서로 다른 정보 간 간섭을 줄이고 복합적인 질문에도 정확히 답할 수 있도록 했다.
성능 개선도 확인됐다. 연구진이 1278개 항목으로 구성된 벤치마크를 통해 검증한 결과, 해당 기술을 적용한 AI의 복합 질문 정확도는 약 70%로 기존 기술(36~52%) 대비 두 배 이상 향상됐다. 새로운 지식을 추가한 이후에도 기존 답변이 유지되는 안정성도 확보됐다.
이번 기술은 단순히 AI의 '망각'을 줄이는 데 그치지 않고, 지속적인 지식 업데이트와 복합 추론을 동시에 구현했다는 점에서 의미가 크다. 정책·법령, 산업 데이터 등 지속적으로 정보가 갱신되는 분야에서 활용 가능성이 높을 것으로 기대된다.
임수종 실장은 "실제 서비스 환경에서 요구되는 최신 정보 반영과 신뢰성을 동시에 확보할 수 있는 기반을 마련했다"며 "향후 산업 현장의 다양한 정보를 안정적으로 반영할 수 있도록 기술을 고도화할 계획"이라고 밝혔다.
댓글
0