앤트로픽이 사상 가장 강력한 모델 '클로드 미토스(Claude Mythos)'의 개발을 마쳤으며, 이번에는 기존의 '오퍼스(Opus)'보다 더 고급인 '카피바라(Capybara)'라는 계층이 추가될 것으로 알려졌다. 특히 미토스가 기존과는 차원이 다른 보안 위험을 내포한다고 강조했는데, 이는 AGI에 가까운 성능을 가진 것으로 볼 수 있다.
포춘은 26일(현지시간) 앤트로픽의 실수로 노출한 데이터 저장소에서 문서를 발견, 새로운 모델과 출시 계획에 대해 보도했다.
이는 보안 회사 레이어엑스 시큐리티(LayerX Security)와 케임브리지대학교의 연구원들이 보안이 취약하고 일반 접근이 가능한 저장소에 찾아낸 것으로, 여기에는 발표 예정인 블로그 게시물과 관련 자료 3000여건이 저장돼 있었다.
앤트로픽은 "외부 CMS 도구 중 하나에 문제가 발생해 초안 콘텐츠에 접근할 수 있게 됐다"라고 인정했으며, 이 문제를 "인적 오류의 결과"라고 설명했다.
여기에서 가장 눈길을 끈 것은 새로운 모델에 대한 부분이다.
문서에는 클로드 미토스 훈련이 완료됐다고 명시돼 있으며, "지금까지 개발한 AI 모델 중 단연 가장 강력한 모델"이라고 설명했다.
이어 "이전 최고 모델인 클로드 오퍼스 4.6과 비교했을 때, 카피바라는 소프트웨어 코딩, 학업 추론, 사이버 보안 등 여러 테스트에서 훨씬 높은 점수를 받았다"라고 밝혔다.
여기에서 카피바라는 기존의 '하이쿠' '소네트' '오퍼스'보다 높은 단계로, 가장 큰 매개변수를 갖춘 모델을 말한다. 문서에는 "카피바라는 새로운 모델 계층의 새로운 이름이며, 지금까지 가장 강력했던 오퍼스보다 더 크고 지능적"이라고 적혀 있다.
포춘은 카피바라와 미토스가 같은 모델을 지칭하는 것으로 분석했다. 따라서 카피바라 급의 첫 모델이 클로드 미토스인 것으로 파악된다.
이와 관련해 앤트로픽은 새로운 모델을 학습했으며, 현재 테스트 중임을 인정했다. 대변인은 "추론, 코딩 및 사이버 보안 측면에서 의미 있는 발전을 이룬 범용 모델을 개발하고 있다"라며 "이 모델의 강력한 기능을 고려해 출시 방식을 신중하게 결정하고 있다"라고 전했다.
이어 "업계 표준 관행에 따라 소수의 초기 액세스 고객과 협력하여 모델을 테스트하고 있다. 이 모델은 획기적인 변화를 가져올 것이며, 지금까지 개발한 모델 중 가장 뛰어난 성능을 자랑한다"라고 덧붙였다.
실제로 문서에는 소수의 얼리 액세스 사용자 그룹을 시작으로 하는 신중한 출시 전략이 설명돼 있다. 또 모델 운영 비용이 많이 들고, 아직 일반 출시 준비가 되지 않았다고 명시돼 있다.
따라서 곧 한정된 사용자를 대상으로 하는 연구용 미리보기 출시가 유력하며, 이어 정식 출시까지는 몇달이 더 걸릴 것으로 보인다.
특히 보안에 대한 점이 집중 강조됐다. 앤트로픽은 이 모델이 "전례 없는 사이버 보안 위험을 초래한다고 믿고 있다"라고 평가했다.
"클로드 카피바라를 출시하기 전에, 우리는 더 신중하게 접근하고 자체 테스트에서 얻은 정보뿐만 아니라 모델이 내포하는 위험을 파악하고자 한다. 특히, 사이버 보안 영역에서 모델이 단기적으로 초래할 수 있는 잠재적 위험을 파악하고, 그 결과를 공유하여 사이버 방어 담당자들이 대비할 수 있도록 돕고자 한다"라는 내용이 포함됐다.
또 "이 시스템은 사이버 보안 능력 면에서 다른 어떤 AI 모델보다 훨씬 앞서 있다"라며 "이는 앞으로 방어자들의 대응 속도를 훨씬 앞지르는 방식으로 취약점을 악용할 수 있는 모델들의 등장을 예고한다"라고 덧붙였다.
이러한 위험 때문에 모델 출시 계획은 사이버 방어 담당자에 초점을 맞출 것이라고 밝혔다. "AI 기반 공격의 물결에 대비해 코드베이스의 견고성을 향상시하는 데 도움이 되도록 조직에 조기 액세스 버전으로 출시할 예정"이라는 것이다.
이 설명을 감안하면 미토스 카피바라는 앤트로픽의 첫 번째 'ASL-4' 단계 모델로 볼 수 있다.
앤트로픽은 2023년부터 ‘AI 안전 수준(ASL)’이라는 자체 평가 체계를 운영하고 있다. 이는 모델의 위험 수준을 평가, 1~5단계로 나눈 것이다. 현재 모델군은 ASL-3에 해당한다. 이는 AI가 대규모 사이버 공격이나 생물학적 위협을 도울 수 있는 수준을 말한다.
그리고 ASL-4는 '국가급 해킹 역량이나 자율적인 연구 능력을 갖춘 수준'을 말한다. 강력한 물리적 보안과 정부급 보안 표준을 요구한다.
실제로 최근 앤트로픽의 분위기는 ASL-4의 등장이 머지않았음을 보여준다.
보리스 체르니 앤트로픽 클로드 코드 책임자는 2월 초 팟캐스트를 통해 "현재 모델이 ASL-3에서 4로 넘어가는 단계"라고 밝힌 바 있다. 특히 4단계부터는 "모델이 재귀적으로 자기 자신을 개선할 것"이라고 소개했다.
앤트로픽도 지난달 25일 자체 안전 규정(RSP)을 완화했다. 이를 통해 AI 모델의 능력이 내부 통제와 안전 조치를 앞선다고 판단하면 학습을 중단하거나 출시를 지연하겠다는 내용을 삭제한 것이다.
대신 앤트로픽의 RSP 가이드라인에 따르면, 국가 안보급 리스크를 동반하는 모델은 최소 수개월간의 '안전성 검증 기간'을 거쳐야 한다. 이는 이번 문서에 적혀 있던 신중한 배포 방식과도 일치한다.
한편, 유출된 문서에는 영국에서 열릴 예정인 유럽 기업 CEO들을 위한 비공개 워크숍에 대한 정보가 담긴 PDF 파일도 포함돼 있었다. 다리오 아모데이 CEO가 영국 시골에 있는 18세기 저택을 개조한 호텔 겸 스파에서 유럽에서 가장 영향력 있는 비즈니스 리더들을 대상으로 소규모 모임을 가지고 대화를 나눈다는 내용이다.
앤트로픽 대변인은 "이 행사는 지난 1년간 우리가 주최해 온 일련의 행사 중 하나"라며 "유럽의 비즈니스 리더들을 초청해 AI의 미래에 대해 논의하는 것"이라고 설명했다.
임대준 기자 ydj@aitimes.com
댓글
0