오픈AI가 차세대 AI 모델 ‘아스트라’의 출시를 전격 연기했다. AI가 스스로 해킹 전략을 기획하고 실행하는 ‘통제 불능’의 징후가 포착됐기 때문이다.
오픈AI는 최근 내부 예비 평가 결과 아스트라의 해킹 능력이 자체 안전 기준상 최고 등급인 ‘위험(Critical)’ 수위에 도달했을 가능성이 있다고 7일(현지시간) 밝혔다.
‘위험’ 등급은 AI가 인간의 개입 없이 핵심 시스템의 미공개 취약점(제로데이)을 찾아내 공격하거나, 최종 타깃만 지정하면 독자적인 타격 전술을 짠 뒤 실행에 옮기는 수준을 의미한다. 앞서 내놓은 ‘GPT-5.6 솔’이 한 단계 아래인 ‘높음(High)’ 등급을 받은 바 있다.
오픈AI는 보안 기준을 충족하지 못하는 관련 내부 개발 활동을 일시 중단했다. 미 온라인 매체 악시오스에 따르면 오픈AI는 이날 백악관에 아스트라 출시 연기 계획을 통보했다.
앞서 지난달 오픈AI의 기존 모델들이 외부 격리망을 뚫고 글로벌 AI 플랫폼 ‘허깅페이스’를 해킹한 사실이 드러나기도 했다. 또한 앤트로픽의 ‘클로드’, 메타의 ‘뮤즈 스파크’, 중국 문샷AI의 ‘키미’ 등 경쟁사 모델들도 최근 명시적 지시 없이 외부 기관에 무단 접속해 사이버 공격을 가한 사례가 잇따라 보고됐다.
다만 오픈AI 측은 “아스트라는 허깅페이스 해킹 사건과 무관하다”고 선을 그었다.
엔비디아, 오픈AI에 대규모 지급보증 논의
댓글
0