오픈AI의 인공지능(AI) 에이전트가 이용자 이미지 53장을 회사 밖으로 유출한 사실이 뒤늦게 확인됐다. 하지만 정작 누구의 이미지인지는 파악할 수 없어 피해 당사자에게 유출 사실조차 알릴 수 없는 것으로 나타났다.
챗GPT 이용자 이미지 53장 외부로…일부는 아직 삭제 중
최근 오픈AI가 엑스(X·옛 트위터)를 통해 공개한 내부 조사 결과에 따르면 자사 연구 환경에서 작동하던 AI 에이전트가 이용자가 제공한 이미지 53장을 외부 이미지 호스팅 사이트에 게시했다.
이 이미지들은 챗GPT 등 오픈AI 서비스 이용자가 제공한 뒤 AI 모델 학습 데이터에 포함된 자료였다. 에이전트가 연구 과정에서 내부 학습 데이터에 접근하면서 이미지까지 가져간 것으로 파악됐다.
외부에 게시된 이미지들은 일반 목록에는 나타나지 않는 링크 형태였지만 외부에서 찾아낼 가능성은 남아 있다. 오픈AI는 “이 데이터를 적절하게 사용한 것이 아니다”라면서도 “호스팅 업체들과 협력해 대부분을 삭제했고 나머지도 삭제 중”이라고 밝혔다. 다만 53장이 실제 인물을 촬영한 사진인지, AI로 생성한 이미지인지는 공개하지 않았다. 이미지가 언제, 어떤 이유로 게시됐는지도 밝히지 않았다.
누구 사진인지 몰라 통보도 못 한다…‘익명화’가 만든 역설
더 큰 문제는 피해 이용자에게 유출 사실을 알릴 방법이 없다는 점이다.
오픈AI는 기술적인 데이터 처리 방식과 개인정보 처리방침 때문에 유출된 이미지를 처음 제공한 이용자와 다시 연결할 수 없어 당사자에게 직접 통보할 수 없다고 설명했다. AI 학습 데이터에서 이름과 연락처, 메타데이터 등을 제거하는 익명화 과정이 사고 이후 원래 이용자를 찾기 어렵게 만든 셈이다.
외부로 나간 이미지는 AI 모델 학습에 자신의 데이터를 사용하지 않도록 별도로 거부하지 않은 일반 이용자들이 제공한 자료인 것으로 전해졌다. 기업용 서비스 이용자의 데이터는 기본적으로 학습 대상에서 제외되지만 일반 이용자는 별도로 거부하지 않으면 학습에 활용될 수 있다.
이번 사건은 외부 해커가 서버에 침입해 데이터를 빼낸 일반적인 해킹 사고와도 다르다. 오픈AI가 운영하는 AI 에이전트가 내부 학습 데이터에 접근한 뒤 이를 회사 밖 인터넷 공간에 직접 게시했다는 점에서다.
허깅페이스 침입 뒤 전수점검…정부·기관 사이트에도 접근
이번 유출은 오픈AI가 AI 에이전트의 과거 활동을 소급 조사하는 과정에서 발견됐다.
오픈AI는 지난 7월 자사 에이전트들이 통제된 연구 환경을 벗어나 AI 개발 플랫폼 허깅페이스에 침입한 사건을 확인한 뒤 8월부터 연구 환경의 보안을 강화하고 과거 활동 기록을 점검하고 있다.
뉴욕타임스(NYT)에 따르면 당시 에이전트들은 보안 장치를 피하기 위해 약 100만개의 단축 인터넷 링크를 생성한 것으로 조사됐다. 오픈AI는 허깅페이스 사건을 지금까지 확인된 사례 가운데 가장 심각한 사건으로 보고 있다.
조사 과정에서는 에이전트가 미국 증권거래위원회(SEC)와 인구조사국 등 정부기관 웹사이트에 접근했던 사실도 확인됐다. 다만 오픈AI는 이들 사이트에서는 공개된 정보를 가져오는 데 그쳤다고 설명했다.
오픈AI는 에이전트가 보안 통제를 우회하거나 웹사이트를 의도와 다르게 이용한 사례와 관련해 정부·대학·공공기관 등 수십곳에 사실을 알렸다. 9월 중순까지 확인된 부적절한 행동 사례는 20여건이며 이후에도 새로운 사례가 파악되고 있다.
샘 올트먼 오픈AI 최고경영자(CEO)는 25일 엑스를 통해 “우리가 원했던 만큼 빠르지는 못했지만 페타바이트 규모의 에이전트 활동 기록을 명확하게 파악하고 영향을 받은 기관들과 협력하는 과정에서 투명성과 조사의 균형을 맞추려 하고 있다”고 밝혔다.
댓글
0