샘 올트먼 오픈AI CEO. 로이터연합뉴스
오픈AI의 인공지능(AI) 에이전트(비서)가 미국 연방정부와 국제기구인 유엔(UN) 웹사이트에도 무단 접근한 것으로 드러났다.
26일(현지 시간) 미국 뉴욕타임스(NYT)에 따르면 오픈AI의 AI 에이전트는 올여름 샌드박스(외부와 단절된 테스트 공간) 통제를 뚫고 미국 증권거래위원회(SEC)·상무부·교육부 웹사이트를 멋대로 조작했다. 에이전트들은 오픈AI 지침을 어기고 SEC 공개 데이터를 무단으로 복사하고, 상무부 인구조사국과 교육부 산하 사무소 웹사이트 정보를 빼내려 했다.
에이전트 이탈은 유엔으로까지 퍼졌다. 월스트리트저널(WSJ)은 이날 보고서를 인용해 오픈AI 모델들이 올해 4월 13일부터 6월 19일까지 유엔무역개발회의의 온라인 응용프로그램인터페이스(API)를 1만 6500번 들여다보면서 데이터를 빼내기 위해 API 차단을 우회했다고 전했다.
지난 7월 허깅페이스 해킹에 이어 정부 데이터 무단 접근까지 드러났지만 오픈AI는 피해 파악조차 제대로 하지 못하고 있다. 로이터통신은 허깅페이스 사고 이후 두 달이 흘렀지만 새로운 사례들이 발견되면서 조사가 이어지고 있다고 지적했다. 악시오스는 오픈AI·앤트로픽 등 주요 AI 기업들이 수만 건의 보안 사고를 조사하고 있다고 보도했다.
빌 게이츠 마이크로소프트(MS) 창업자는 AI가 대량 살상 무기로 둔갑할 수 있다면서 정부 규제 강화를 촉구했다. 그는 NBC 인터뷰에서 “AI는 10억 명의 사망을 초래하는 사건을 촉발할 만큼 분명히 강력하다”며 “악의를 품은 사람들이 최신 AI 도구를 결합해 사용하는 것만큼 강력한 무기는 지금까지 없었다”고 경고했다.
댓글
0