앱 내 AI 기능은 로컬 AI를 기본으로 설계해야 한다. [사진: 셔터스톡]
[디지털투데이 AI리포터] 앱에 넣는 AI 기능은 외부 클라우드에 무분별하게 의존하기보다, 단말기에서 직접 실행되는 로컬 AI를 기본으로 설계해야 한다는 주장이 나왔다.
11일(현지시간) 온라인 매체 기가진에 따르면 IT 엔지니어 사일러스 로페스는 오픈AI와 앤트로픽 API를 앱에 연결하는 방식이 편리해 보이지만, 개인정보 부담과 운영 복잡성을 동시에 키울 수 있다고 지적했다.
로페스는 사용자의 글이나 기사 본문을 외부 AI 서비스로 보내는 순간 앱의 성격 자체가 달라진다고 설명했다. 단순 편의 기능이 아니라 데이터 저장과 이용자 동의, 감사 대응, 정보 유출 위험, 정부 기관의 자료 요청까지 고려해야 하는 서비스가 된다는 것이다.
또한 외부 AI 서비스에 의존하는 기능은 네트워크 상태와 서비스 장애, API 제한, 과금 문제, 자체 서버 운영 상황 등의 영향을 받을 수 있다고 덧붙였다. 그는 단순 요약 기능 하나를 구현하려다 비용 부담이 큰 분산 시스템까지 함께 운영하게 되는 경우가 많다고 비판했다.
로페스는 자신이 개발한 뉴스 집계 서비스 더 브루털리스트 리포트(The Brutalist Report) iOS 앱을 로컬 AI 활용 사례로 소개했다. 이 앱은 기사 요약 기능을 애플의 로컬 모델 API를 통해 단말기 내부에서 처리한다. 데이터와 프롬프트, 사용자 로그를 외부 서버로 보내지 않으며 별도의 AI 서비스 계정 없이도 사용할 수 있다. 사용자가 읽고 있는 기사 내용이 이미 단말기에 있는 만큼, 요약 역시 단말기 안에서 처리하면 된다는 설명이다.
그는 로컬 AI가 특히 사용자 데이터를 가공하는 작업에 적합하다고 봤다. 이메일 요약과 메모 기반 할 일 정리, 문서 분류, 문장 정리 같은 기능은 대형 클라우드 AI가 아니라 스마트폰용 소형 AI 모델만으로도 충분히 구현 가능하다는 것이다. 사용자 신뢰 역시 긴 개인정보 처리방침보다 애초에 데이터를 외부로 보내지 않는 구조에서 나온다고 강조했다.
다만 로컬 AI가 클라우드 AI만큼 높은 성능을 제공하지는 못한다고 인정했다. 그럼에도 대부분의 앱 기능에는 최첨단 AI 모델 수준의 성능이 필요하지 않으며, 핵심은 요약과 분류, 정보 추출, 문장 재작성, 표현 통일 등을 안정적으로 처리하는 능력이라고 설명했다.
로페스는 클라우드 AI 자체를 부정하는 것은 아니라고 밝혔다. 고성능 AI 모델이 필요한 경우도 있지만, 단말기 안에서 처리할 수 있는 기능까지 굳이 외부 서버로 보낼 필요는 없다는 것이다. 그는 사용자 데이터는 가능한 한 사용자의 기기에 남겨두고, AI 기능 역시 단순한 채팅창이 아니라 앱 내부에서 안정적으로 작동하는 기능으로 설계해야 한다고 강조했다.
AI리포터
댓글
0