[정보라의 세상 속으로]신뢰할 수 없는 AI의 시대

우크라이나군의 드론이 러시아 데이터센터들을 폭격한 이후로 인터넷이 ‘조용해졌다’고 볼로디미르 젤렌스키 우크라이나 대통령이 바르샤바 안보 포럼에서 언급했다. 러시아의 구글로 알려진 ‘얀덱스(Yandex)’ 데이터센터 여러 곳을 우크라이나군 드론이 파괴한 이후로 SNS에서 러시아군의 우크라이나 침공을 정당화하고 푸틴을 찬양하는 계정들이 60% 이상 사라졌다는 것이다. 이어서 미국과 폴란드 SNS에서는 러시아 데이터센터 폭격 이후 친트럼프 계열(MAGA) 계정이나 폴란드 극우당을 지지하고 우크라이나 난민 혐오를 퍼뜨리던 계정들이 절반 이상 사라졌다는 포스팅이 급속도로 퍼지고 있다. 사실일까?

미리 강조하는데 젤렌스키 대통령을 공격할 생각은 전혀 없다. 우크라이나는 러시아가 3차 세계대전을 일으킬 가능성을 햇수로 5년째 가열차게 막아내고 있다. 우크라이나군은 러시아 군사시설과 데이터센터를 폭격하고 러시아군은 유치원, 병원, 주택가, 길 가던 사람을 폭격한다. 어느 쪽이 잘하고 잘못하는지는 자명하다.

내가 말하고 싶은 얘기는, 이제 인터넷에 콘텐츠를 공개하는 주체가 사람인지 기계인지 구분하기 힘든 세상이 되었다는 것이다.

폴란드의 대표적인 포털인 오넷(Onet) 뉴스와 영국 BBC 등의 분석에 따르면 인터넷상의 데이터에 대해 그렇게 간단하게 “전부 러시아 가짜계정”이라 단언할 수는 없다고 한다. 러시아 데이터센터 폭격 이후 인공지능 ‘봇’, 즉 인터넷상에서 자동으로 어떤 요청을 수행하는 프로그램들의 활동이 특정 지역에서 급감한 것은 맞다. 그러나 이 통계를 내놓은 미국의 인터넷 회사 클라우드플레어는 어떤 봇이 실제로 어떤 콘텐츠를 생성하고 구체적으로 어떤 활동을 했는지까지는 자동으로 집계하지 않는다.

말하자면 CCTV로 도로의 교통량은 집계할 수 있지만 구체적으로 자동차 한 대 한 대가 어떤 의도로 뭘 하러 가는지까지 조사하지는 않는다는 것이다. 데이터센터가 파괴당한 것은 말하자면 고속도로가 무너진 것과 같다. 도로가 파괴당해 차가 못 다니게 되었다고 해서 이전에 그 길을 오간 모든 자동차가 다 범죄자들 차량이었다고 단언할 수는 없는 노릇이다.

폴란드 오넷 뉴스는 여기에 대하여 얀덱스 데이터센터 파괴로 인해 러시아에서 금융거래가 지연되거나 중단되었기 때문에 돈을 목적으로 봇을 돌려 특정한 내용을 홍보하던 계정들이 활동을 중단했을 가능성은 있다고 지적한다. 이것은 다른 뉴스나 칼럼에서는 볼 수 없었던 의견으로, 흥미로운 지점이다. 봇을 돌리는 행위 자체가 무조건 돈이 된다기보다는, 금전적 보상을 받고 홍보용 봇을 운영하던 계정부터 혹시 돈을 벌 수 있을까 싶어 봇을 운영하던 계정까지, 데이터도 끊기고 돈줄도 끊겨서 계정이 사라졌을 가능성은 충분히 있다.

그러나 여기에는 평범한 상품광고부터 극우정당의 가짜뉴스까지 모든 수익성 홍보활동이 다 포함된다. 어떤 특정한 의도를 가진 콘텐츠만이 러시아 데이터센터를 통해 공개되었다고 단정 지으려면 데이터 총량에 대한 통계가 아니라 범죄수사 수준의 더 깊은 조사가 필요할 것이다.

오넷 분석가들은 또한 데이터센터가 파괴되어 ‘모든 인공지능 봇들이 활동을 중단했다’고 섣불리 단정해서는 안 된다고 경고한다. ‘데이터센터가 파괴되어 봇은 사라졌으니까 이 계정은 사람이 직접 운영하고 진실만을 말할 것이다’라고 성급하게 믿으면 위험하다는 것이다.

클라우드플레어에 따르면 올해 처음으로 인터넷에서 인공지능 에이전트와 봇 등 기계가 생성하는 데이터의 총량이 인간이 생성하는 데이터의 양을 넘어섰다고 한다. 올해 6월 기준 인터넷 검색 요청의 57.4%를 봇이 생성했다. 인간이 물건을 하나 구입하기 위해 다섯 개의 웹사이트를 검색하는 동안 봇은 5000개의 웹사이트를 돈다.

젤렌스키 대통령의 발언과 오넷 뉴스의 분석을 보며 나는 이제 우리가 인간의 의견이 아니라 기계의 자동화된 설정에 의해 분열과 반목으로 치닫게 되는 건지 걱정되기 시작한다. 아니, 우리는 이미 그렇게 자동화된 기계의 설정에 홀랑 속아 넘어가고 있는지도 모른다. AI가 자동화와 최신화의 축복을 가져오기 전에 반목과 혐오와 상처만 남길 수도 있다. 그리고 누군가는 그걸 이용해서 돈을 벌고 있을지도 모른다.

정보라 소설가