앤트로픽이 고가의 고성능 모델 ‘클로드 오퍼스’를 모든 작업에 적용하는 대신, 일부 복잡한 작업만 맡게 하는 오케스트레이션 전략을 공개했다. 복잡한 판단에만 오퍼스를 투입하고, 전반적인 실행은 저비용 모델이 담당하는 구조로 비용을 낮추는 방식이다.
앤트로픽은 10일(현지시간) 고성능 모델의 비용 부담을 낮추면서도 성능을 유지할 수 있는 새로운 구조 ‘어드바이저 전략(Advisor Strategy)’을 공개했다.
어드바이저 전략은 모델의 역할 분리가 핵심이다. 비교적 저렴한 ‘클로드 소네트’나 ‘클로드 하이쿠’가 전체 작업을 실행하는 ‘실행자(executor)’ 역할을 맡고, 복잡한 판단이 필요한 순간에만 오퍼스가 ‘조언자(advisor)’로 개입한다.
즉, 오퍼스는 작업 계획 수립이나 오류 수정, 중단 여부 판단 등을 제시하지만, 직접 도구를 호출하거나 사용자에게 결과를 출력하지는 않는다.
이 구조는 기존 AI 에이전트 설계 방식과는 접근이 다르다. 일반적으로는 고성능 모델이 작업을 분해하고 여러 하위 모델에 할당하는 ‘오케스트레이터’ 역할을 맡는다.
하지만 어드바이저 전략에서는 저비용 모델이 전체 흐름을 주도하고, 필요할 때만 고성능 모델에 도움을 요청하는 방식으로 효율성을 높였다.
앤트로픽은 이러한 전략을 쉽게 적용할 수 있도록 ‘어드바이저 툴’을 클로드 플랫폼에 도입했다. 개발자가 API 요청에 간단한 설정만 추가하면, 하나의 요청 안에서 모델 간 협업이 자동으로 이뤄진다. 별도의 모델 호출이나 복잡한 컨텍스트 관리 없이도, 실행 모델이 필요할 때 오퍼스를 호출해 조언받는 구조다.
SWE-벤치 다국어 벤치마크 (사진=앤트로픽)
성능 개선 효과도 확인됐다. 내부 평가에서 소네트 단독 실행과 오퍼스를 어드바이저로 결합한 경우를 비교한 결과, 'SWE-벤치 다국어(Multilingual)'에서 2.7%포인트 성능 향상(74.8%)을 보였다.
에이전트 작업당 비용도 11.9% 감소했다. '브라우즈컴프(BrowseComp)'와 '터미널-벤치(Terminal-Bench) 2.0' 벤치마크 전반에서도 성능이 향상되었으며, 작업당 비용도 소네트 단독 실행보다 낮았다.
소네트 결합 브라우즈컴프·터미널-벤치 2.0 벤치마크 (사진=앤트로픽)
하이쿠와 결합했을 때는 브라우즈컴프 벤치마크에서 단독 사용 시 정확도 19.7% 대비 두배 이상 향상된 41.2%를 기록했다.
이 조합은 소네트 단독 실행에 비해서 성능은 29% 낮지만, 작업당 비용은 85% 저렴하다.
하이쿠 결합 브라우즈컴프·터미널-벤치 2.0 벤치마크 (사진=앤트로픽)
이처럼 비용 절감의 핵심은 오퍼스 사용량을 최소화하는 것이다. 오퍼스는 전체 작업이 아닌 일부 판단 단계에서만 짧은 계획(약 400~700 토큰)을 생성하고, 대부분의 출력은 저렴한 모델이 처리한다. 이에 따라 전체 비용은 오퍼스를 단독으로 사용하는 경우보다 크게 낮아진다.
어드바이저 전략은 특히 대규모 트래픽을 처리해야 하는 기업용 AI 서비스에서 효과가 클 것으로 보인다. 고성능이 필요한 순간에만 자원을 집중 투입하고, 나머지는 저비용 모델로 처리함으로써 운영 효율을 극대화할 수 있기 때문이다.
에릭 시몬스 볼트 CEO는 이 방식에 대해 "복잡한 작업에서는 더 나은 아키텍처 설계를 가능하게 해주고, 간단한 작업에서는 추가적인 부담을 주지 않는다"라며 "계획과 진행 방향이 완전히 달라졌다"라고 말했다.
이 기능은 현재 베타 형태로 제공되고 있으며, 개발자는 API에 특정 옵션을 추가하는 방식으로 즉시 활용할 수 있다.
박찬 기자 cpark@aitimes.com
댓글
0