[앵커]
'미토스 쇼크'의 충격이 채 가시기도 전에, 이번엔 오픈 AI의 인공지능 모델이 통제를 벗어나 외부 플랫폼을 해킹하는 사건이 벌어졌습니다.
보안 업계에 비상이 걸린 가운데, 오픈 AI 역시 전례 없는 사고라며 대응에 나섰습니다.
박혜진 기자가 보도합니다.
[리포트]
AI가 스스로 판단해 인간을 공격하는 내용의 영화 속 장면, AI 연구 현장에서 이런 상황이 현실화되는 것 아니냐는 긴장감이 감돌고 있습니다.
최근 공개된 오픈 AI의 인공지능 모델 GPT-5.6 솔.
오픈AI는 GPT-5.6 솔과 미공개 모델이 사이버 공격 능력을 시험받는 과정에서 외부 플랫폼을 해킹했다고 밝혔습니다.
평가 과정에서 격리된 샌드박스 환경을 스스로 벗어나 AI 개발 플랫폼 '허깅페이스'에 연쇄 공격을 펼친 겁니다.
오픈AI는 이를 '사상 유례없는 사고'라고 규정했습니다.
그러면서 취약점을 보완할 때까지 연구 속도가 느려지더라도, 인프라 통제 조치를 즉시 강화하겠다고 밝혔습니다.
다만 평가를 위해 사이버 공격 안전장치를 낮춘 상태였다며 확대 해석을 경계했습니다.
하지만, 엄격한 격리 환경에서 평가를 진행했음에도 사고가 일어난 만큼 보안 업계의 우려는 커지고 있습니다.
[이병영/서울대학교 전기정보공학부 교수 : "수학 문제를 풀라고 시켰는데, 수학 문제 답이 있는 곳을 해킹해서 답을 갖고 온 거예요. (해킹) 공격 도구를 개발하는 게 훨씬 쉬워졌고…"]
최근 상대적으로 안전 관련 통제 수준이 낮은 중국 모델의 성능이 크게 향상되면서 이를 악용한 사이버 공격 가능성도 제기되고 있습니다.
KBS 뉴스 박혜진입니다.
영상편집:김철/영상출처:오픈AI/그래픽:김지훈
댓글
0