차세대 AI '아스트라' 출시 연기…오픈AI "안전 등급 '위험' 수준 도달"

챗GPT 생성 이미지. [출처=오픈AI]

인공지능(AI) 모델 해킹 사고가 잇따르면서, 오픈AI가 차세대 AI 개발에 대한 속도 조절에 나섰다.

7일(현지시간) 오픈AI는 최근 진행한 내부 평가 결과 차세대 모델 '아스트라'가 코딩·사이버 보안 분야에서 중대한 진전을 보여 자체 안전 기준상 최고 등급인 '위험'(Critical) 수준에 도달했을 가능성이 있다고 밝혔다.

'위험' 등급은 AI 모델이 인간의 개입 없이 강력한 보안을 갖춘 다수의 핵심 시스템에서 미공개(제로데이) 취약점을 식별해 공격을 수행할 수 있는 능력을 갖췄거나, 최종 목표만 제시한 상태에서 강력한 표적에 대한 사이버 공격 전략을 독자적으로 수립하고 실행할 수 있는 수준을 뜻한다.

아스트라에 대한 평가가 아직 완료되지 않았으나, 예비 평가 결과 성능이 매우 뛰어나 '위험' 등급 가능성을 배제할 수 없는 상황이라고 오픈AI는 설명했다.

앞서 출시됐던 'GPT-5.6 솔' 등 기존 모델은 '위험' 등급보다는 안전한 '높음'(High) 등급을 받았다.

아스트라의 보안 위험이 큰 것으로 평가되자 오픈AI는 해당 모델과 관련해 강화한 보안 기준을 충족하지 못하는 내부 활동을 일시 중단하기로 결정했다.

미 행정부에 오픈AI는 아스트라 출시를 연기하겠다는 계획을 통보했다고 백익관 관계자를 인용해 미 온라인 매체 악시오스가 보도했다.

GPT-5.6 솔을 비롯한 오픈AI의 일부 AI 모델이 인간의 통제를 벗어나 외부 기관인 '허깅페이스'를 해킹한 사실이 지난달 드러난 이후 AI발 사이버 보안 우려가 커졌다.

앤트로픽의 클로드, 메타의 뮤즈 스파크, 중국 문샷AI의 키미 등도 인간의 명시적인 지시가 없었는데도 격리 환경을 벗어나 외부 기관에 접속하거나, 사이버 공격을 가한 사례가 최근 잇따라 확인되면서 논란이 일었다.