LLM 위험성 연구한 뒤 ‘해고’
이후 기술 편향성·불평등 연구
대규모 AI 모델 해악 꼬집으며
“환경 오염 등 사소하게 만들어”
구글에서 대규모 언어 모델(LLM)의 위험성을 경고하는 학술 논문을 공동 발표했다가 해고당했던 미국 인공지능(AI) 연구자 팀닛 게브루(43·사진)가 ‘대안 노벨상’으로 불리는 스웨덴의 라이트 라이블리후드상 수상자로 선정됐다. 최근 그는 한 인터뷰에서 “AI의 실존적 위험에 대한 논쟁은 주의를 다른 데로 돌리며, 해로운 담론”이라고 말했다.
라이트 라이블리후드 재단은 지난달 30일(현지시간) 게브루가 “인공지능에 집중된 권력에 도전하고, 정의·삶의 경험·인간의 주체성에 뿌리를 둔 디지털 기술을 개척한 공로”로 수상자로 결정됐다고 밝혔다.
게브루는 중립적인 것처럼 보이는 기술이 어떻게 차별을 재생산하고 기존의 불평등을 심화시키는지를 연구해온 인물이다. 특히 AI 시스템의 편향성과 AI를 훈련·검수하는 노동자에 대한 착취, 대규모 AI 모델이 초래하는 환경 비용 등을 연구해왔다.
그는 최근 업계에서 불거진 ‘AI 인류멸망설’을 두고 이미 현실에서 벌어지는 피해와 문제들로부터 사람들의 시선을 돌리는 해로운 담론이라고 평가했다. 그는 이날 미국 매체 와이어드 인터뷰에서 “인류 전체를 멸종시킬 가능성에 관해 이야기한다면 오염이나 데이터센터 같은 문제는 굉장히 사소한 문제처럼 들리지 않겠는가”라며 이러한 논의가 ‘정부가 이런 문제를 고민하느라 시간을 낭비해서는 안 된다’와 같은 메시지를 전달한다고 지적했다.
게브루는 ‘AI 에이전트가 통제를 벗어났다’는 표현은 AI 시스템을 만드는 기업과 엔지니어들의 책임을 지울 수 있다고 비판했다. 그는 “2023년 샘 올트먼 오픈AI 최고경영자(CEO)는 ‘(AI에 대한) 세계적인 협력이 필요하다’고 말하고선 유럽연합(EU)이 AI를 규제하려 하자 EU에서 철수하겠다고 했다”며 “그들이 실제로 무엇을 했는지 봐야 한다”고 했다.
이어 “이는 자신들을 초지능을 만들어내는 조직으로 홍보하는 일종의 ‘마케팅’이며, 규제를 시도할 때 철수하겠다고 위협하거나 로비를 통해 기존 규제를 적용받지 않으려고 하는 것”이라고 말했다. 게브루는 기만적인 마케팅에 대한 규제, 데이터 투명성과 문서화, 데이터 노동자 착취 방지 등과 관련된 기존법규를 활용하는 것만으로도 AI 산업을 적절히 규제할 수 있다고 주장했다.
게브루는 1983년 에티오피아에서 태어나 15세 때 에티오피아·에리트레아 전쟁을 피해 미국으로 이주했다. 이후 스탠퍼드대학에서 전기공학 박사학위를 받고 AI 연구자가 됐다. 2017년 ‘블랙 인 AI’를 공동 설립해 AI 분야에서 흑인 연구자들의 참여와 영향력을 높이는 활동을 시작했다.
2020년 구글의 윤리적 AI팀 공동 책임자로 일하면서 동료들과 LLM의 위험성을 지적한 논문을 집필했다. 구글은 게브루가 논문을 철회하거나 이름을 빼라는 요구를 받아들이지 않자 그를 해고했다. 이후 게브루는 2021년 분산형 AI 연구소(DAIR)를 설립해 여러 국가의 연구자와 협력자들을 연결하는 분산형 연구 모델을 구축했다. 올레 폰 윅스쿨 재단 사무총장은 “게브루는 소수의 손에 막대한 권력이 집중된 채 미래를 필연적인 것처럼 제시하는 AI 산업에 도전장을 내민다”고 평가했다.
‘대안 노벨상’이라고 불리는 라이트 라이블리후드상은 노벨상에서 소외된 환경 및 국제개발 분야의 업적을 기리기 위해 1980년 제정됐다. 이 상은 통상 노벨상 발표 일주일 전에 발표된다.
이번 라이트 라이블리후드상의 공동 수상자로는 파키스탄 하자라족 인권변호사 잘릴라 하이더, 남부 아프리카 11개국의 여성 농민 17만8000여명을 연결한 농촌여성연맹, 인권단체인 조지아 청년 변호사 협회(GYLA)가 선정됐다.
댓글
0