[지금 AI] 메모리 기술과 엣지 AI

[KBS 부산] 우리 곁의 인공지능을 알기 쉽게 전해드리는 ‘지금AI’ 시간입니다.

AI는 이제 우리와 떼려야 뗄 수 없는데요.

나날이 점점 똑똑해지는 것 같지 않나요?

[해온 : "맞습니다~ 아마 데이터가 점점 쌓여서 그런거겠죠?"]

그렇죠.

그런데 그 데이터를 얼마나 빠르고 효율적으로 처리하느냐, 그 핵심에 바로 ‘메모리 기술’이 있습니다.

오늘은 AI의 속도를 좌우하는 메모리 기술과 AI가 더 가까워지는 방식인 엣지AI에 대해 알아보겠습니다.

AI는 단순히 계산만 잘한다고 되는 것이 아닙니다.

엄청난 양의 데이터를 빠르게 불러오고 저장하는 능력이 중요한데요.

특히 최근에는 GPU의 성능을 제대로 이끌어내기 위해, 단짝처럼 꼭 붙어 다녀야 할 핵심 파트너가 있습니다.

바로 고대역폭 메모리, HBM입니다.

이 기술은 쉽게 말해 메모리 칩을 아파트처럼 수직으로 높게 쌓아올린 것입니다.

데이터가 오가는 통로를 수천 개로 늘렸기 때문에 엄청난 양의 정보를 한꺼번에 그리고 아주 빠르게 전달할 수 있는 장점이 있죠.

AI라는 거대한 엔진에 초고속 연료를 공급하는 전용 파이프라인이 생긴 거라고 볼 수 있습니다.

그래서 글로벌 반도체 기업들은 AI경쟁력의 핵심으로 이 메모리 기술에 집중하고 있습니다.

여기에 또 다른 변화가 일어나고 있습니다.

이제는 데이터를 얼마나 빠르게 처리하느냐를 넘어, 어디에서 처리하느냐가 중요해진 겁니다.

기존에는 데이터를 클라우드 서버로 보내고 결과를 받는 방식이 일반적이었는데요.

이제는 모든 데이터를 멀리 있는 서버로 보낼 필요 없이 기기 자체에서 바로 처리하는 ‘엣지AI’가 빠르게 확산되고 있습니다.

가장자리를 뜻하는 엣지란 말처럼 스마트폰, CCTV, 자율주행차 등 사용자와 맞닿아있는 기기 안에서 직접 작동하는 AI를 말합니다.

엣지AI는 서버를 거치지 않기 때문에 속도가 빠르고 데이터를 외부로 보내지 않아 개인정보 보호에도 유리합니다.

또 기기 안에서 직접 AI가 작동하기 때문에 일부 기능은 인터넷 없이도 AI를 사용할 수 있는 장점이 있죠.

앞으로 AI의 방향은 분명합니다.

더 빠른 것과 사용자에게 더 가까워지는 거죠.

이를 위해 AI의 속도를 끌어올리는 메모리 기술 그리고 AI를 우리 일상 속으로 끌어들이는 엣지AI.

이 두 기술이 AI의 미래를 만들어가고 있습니다.

[해온 : "이제 AI는 클라우드에만 있는게 아니라 우리 일상 속에서 함께 움직이는 기술이 되겠네요."]

맞습니다.

AI는 점점 더 빠르게 그리고 더 가까이 다가오고 있습니다.

‘지금AI’, 메모리 기술과 엣지AI에 대해 전해드렸습니다.