앤스로픽 새 AI ‘미토스’ 프리뷰 제공하자
은행 CEO 불러 사이버 공격 위험성 점검
보안상 취약점 전문가만큼 탐지·분석 가능
‘프로젝트 글래스윙’ 만들어 부작용 최소화
13일(현지 시간) 프랑스 파리에서 열린 사진 행사에서 미국 앤스로픽 로고 앞에 놓인 피규어. AFP연합뉴스
앤스로픽이 사이버 보안 취약점을 인간 전문가 수준으로 탐지하는 새 인공지능(AI) 모델 ‘미토스’를 공개하자, 미국 재무장관과 연준 의장이 대형 은행 CEO들을 긴급 소집했다. AI 악용에 따른 금융권 사이버 공격 위험에 선제 대응하기 위한 조치다.
10일(현지시간) 블룸버그 통신 등 외신에 따르면 스콧 베센트 재무장관과 제롬 파월 연방준비제도(연준·Fed) 의장은 지난 7일 워싱턴의 재무부 본부에 대형 은행 최고경영자(CEO)들을 긴급 소집했다. 앤스로픽이 같은 날 새 AI ‘미토스(Mythos)’의 미리보기(프리뷰)판 제공을 시작하자, 해당 AI가 초래할 사이버 보안 위협에 은행들이 대비하고 있는지 점검하기 위해서다.
이날 회의에는 제인 프레이저 시티그룹 CEO, 테드 픽 모건스탠리 CEO, 브라이언 모이니핸 뱅크오브아메리카(BofA) 회장, 찰리 샤프 웰스파고 CEO, 데이비드 솔로몬 골드만삭스 회장 등이 참석했다. 미국 최대 은행인 JP모건체이스의 제이미 다이먼 회장은 일정상 이유로 이번 회동에는 참석하지 못한 것으로 전해진다.
금융당국이 사전 점검에 나선 배경에는 미토스의 압도적 성능이 있다. 미토스는 코드를 작성하는 기존 AI 수준을 넘어 주요 운영체제(OS)와 웹브라우저 등의 보안상 취약점을 인간 전문가에 버금가는 수준으로 탐지·분석할 수 있다. 추론·연구·의사결정 등에 두루 쓸 수 있는 범용 도구이기도 하다. 이 때문에 특정 집단이나 개인이 미토스 또는 유사 AI를 악용해 은행에 사이버 공격을 할 위험성이 크다는 점이 지적됐다.
앞서 앤스로픽은 아마존웹서비스(AWS), 애플, 브로드컴, 구글 등 주요 빅테크 기업과 JP모건 등 금융 기업을 모아 ‘프로젝트 글래스윙’ 그룹을 구성하고, 해당 참여사에 한해 미토스의 프리뷰판을 우선 제공하기로 했다. 글래스윙은 투명한 날개를 가진 유리날개나비에서 따온 이름으로, 눈에 띄지 않는 보안 취약점을 찾아 해결하자는 의미를 담았다.
프로젝트 글래스윙은 사이버 보안에 가장 민감한 기업들에 미토스를 우선 제공해 숨겨진 보안 문제를 선제적으로 해결하고, 고도화된 방어책을 마련하도록 하기 위해 구성됐다. 앤스로픽은 미토스가 소프트웨어 취약점을 발견하는 데 있어 최고숙련자들을 제외한 대부분의 사람을 능가하게 됐다고 설명했다.
사이버 보안 취약점 재현 성능지표(벤치마크)인 ‘사이버짐’ 평가에서 미토스 미리보기판의 점수는 83.1%를 기록해, 앤스로픽의 기존 최상위 모델인 ‘오퍼스 4.6’의 66.6%를 큰 격차로 뛰어넘었다. 미토스는 코딩 관련 여러 성능지표와 추론 관련 지표, 정보 검색 능력 등 지표에서 대부분 오퍼스 4.6보다 높은 점수를 받았다. 특히 분야별 박사급 전문가 수준의 문제를 모은 ‘인류의 마지막 시험’(HLE) 점수는 AI 모델 최초로 50%의 벽을 넘어 56.8%(도구 미사용 기준)를 기록했다.
다리오 아모데이 앤스로픽 최고경영자(CEO)는 사회관계망서비스(SNS) 엑스(X)에 “이것(AI)을 잘못 취급할 때의 위험성은 명백하지만, 잘만 다룰 수 있다면 AI 기반 사이버 역량이 등장하기 전보다 근본적으로 더 안전한 인터넷과 세상을 만들 수 있는 진짜 기회가 생길 것”이라고 강조했다.
앤스로픽은 프로젝트에 참여하는 기업들에 최대 1억달러(약 1500억 원) 규모의 모델 사용권을 제공하고, 개방형(오픈소스) 보안 단체들에는 이와 별도로 총 400만달러(약 60억 원)를 기부할 계획이다.
앤스로픽은 “이와 같은 사이버 역량의 등장은 미국과 동맹국들이 AI 기술 분야에서 확고한 우위를 유지해야 하는 또 다른 이유”라며 “이러한 과업을 지원하기 위해 지방·주(州)·연방 정부와 협력할 준비가 돼 있다”고 밝혔다.
한편 파이낸셜타임스(FT)는 미토스 공개 전에도 앤스로픽이 두 건의 보안 사고로 물의를 빚었다고 지적했다. 내부 직원의 실수로 미토스 관련 내부 자료와 AI 에이전트 ‘클로드’의 소스코드가 외부로 유출된 바 있다.
댓글
0