기술 권력과 '철학의 빈곤' [데스크칼럼]

윤리 조직 해체·윤리적 사명 축소의 그늘

AI 기술 파급력, 샌드박스 단계 지났다

[시사오늘·시사ON·시사온=천신응 기자]

지난해 오픈AI는 자사 홈페이지를 조용히 수정했다. ‘인류 전체의 이익을 위한 안전한 범용 인공지능(AGI) 개발’이라는 창립 이념은 투자자 설명서 뒷장으로 밀려났고, 기존의 공간에는 ‘가장 강력한 AI 구축’이라는 문구가 들어섰다. 별도의 보도자료나 내부 공지는 없었다. 그저 몇 글자가 바뀌었을 뿐이지만, 그 행간에 담긴 무게는 가볍지 않다.

오픈AI만이 보여준 움직임이 아니다. 2023년 마이크로소프트는 AI 시스템의 편향성을 검토하고 공정성 기준을 수립하던 조직인 AI 윤리 및 사회(AETHER) 팀을 해체했다. 메타 역시 같은 해 ‘책임 있는 AI(RAI)’ 팀을 해산했으며, 구글은 외부 자문위원회를 출범 일주일 만에 폐쇄한 뒤 딥마인드 윤리팀 인력을 점진적으로 축소해 왔다. 글로벌 빅테크들이 경쟁적으로 윤리 부서를 정리하는 이 흐름을 단순한 우연의 일치로 보기는 어렵다.

미션 스테이트먼트(사명 선언문)의 변화는 더욱 노골적이다. 오픈AI의 초기 사명은 ‘비영리’와 ‘인류 전체’를 전면에 내세웠다. 그러나 ‘영리 제한(Capped-Profit)’ 구조를 도입하더니, 올해 완전한 영리 법인으로의 전환을 공식화하는 과정에서 '안전하게(safely)', '비영리(non-profit)', '수익 창출 의무에 구애받지 않고(unconstrained by a need to generate financial return)'와 같은 표현이 사라졌다. 앤트로픽과 구글 딥마인드 등 경쟁사들 역시 ‘안전’과 ‘이익’의 병행을 강변하지만, 수십조 원의 자본 앞에서 이 위태로운 균형이 언제까지 유지될지는 미지수다. ‘책임감 있는 AI’라는 수사는 마케팅 문구로 전락했고, 윤리는 ESG 보고서 안에서나 명맥을 유지한다.

이 현상이 우려스러운 이유는 기업 도덕성의 문제를 넘어선다. AI 시스템은 이미 채용, 대출 심사, 의료 진단, 형사 사법, 심지어 군사 영역 등 인간의 삶을 결정짓는 영역에 깊숙이 침투했다. 빠른 시도와 실패를 용인하고 민첩성(Agility)에 방점을 두는 ‘샌드박스(Sandbox)’ 단계는 진작에 지났다.

혁신 기술에 대한 우려가 늘 정당했던 것은 아니다. 하지만 낙관론이 실패했을 때 부작용은 인류의 상상을 넘어서곤 했다. 소셜미디어 업계가 ‘참여 극대화’와 ‘수익 최적화’를 위해 콘텐츠 추천 알고리즘을 앞다퉈 도입한 후 ‘혐오 조장’이라는 부작용이 나타났다. 10여 년이 지나 일부 규제가 제도화됐다고 하지만 한번 깊어진 혐오의 골은 메워질 기미가 요원하다. AI가 초래할 파급의 잠재력은 범위와 속도 면에서 소셜미디어와 비교조차 되지 않는다.

어쩌면 더 근본적인 문제가 있다. 철학적 사유 없이 설계된 AI는 '인간이 무엇을 원하는가’와 ‘무엇이 인간에게 바람직한가’를 구분하지 못한다. 클릭의 유혹에 영합하는 것과 불편한 진실에 직면하는 것, 편리함을 누리는 것과 자율적인 삶을 사는 것은 본질적으로 다르다. 윤리와 철학을 개발 과정의 핵심에 두지 않는다면, AI는 인간의 욕망에 부응하는 기계로만 작동할 가능성이 농후하다.

이 대목에서 180여 년 전의 논쟁 하나를 소환할 필요가 있다. 1846년 프랑스 사상가 프루동은 경제적 모순을 철학적 언어로 포장한 ‘빈곤의 철학’을 출간했다. 이듬해 마르크스는 거창한 철학 체계가 현실의 빈곤을 해결하지 못할 때 그 철학 자체가 빈곤해진다는 요지의 ‘철학의 빈곤’으로 응수했다. 오늘날 AI 기업들의 행태는 이 19세기 논쟁의 역설적 재현이다. 그들은 ‘안전’과 ‘책임’이라는 수사를 내세우면서도 이를 지탱할 제도적 장치와 사명을 스스로 해체한다. 이것이 바로 현대판 ‘빈곤의 철학’이며, AI 거버넌스를 ‘철학의 빈곤’ 상태로 전락시키는 행위다.

최근 확산하는 ‘큇GPT(QuitGPT)’ 운동에 미약하나마 기대를 걸게 되는 이유도 여기에 있다. 오픈AI가 유달리 윤리를 도외시하는 기업이라고 판단되어서가 아니다. ‘책임감 있는 AI’를 대하는 기업들의 태도가 이를 통해 반전되기를 바라는 희망에서다. 혁신성에 걸맞은 책임감의 가치를 시장의 역학으로 되묻는 이 움직임이 전환의 마중물이 되기를 기대해 본다.

저작권자 © 시사오늘(시사ON)

천신응 기자

다른기사 보기