[4월27일] "알고리즘의 자유 vs 기업의 책임"...머스크의 소송이 던진 근...

지난 9일(현지시간)에는 일론 머스크 CEO의 xAI가 미국 콜로라도주의 AI 규제법 시행을 막기 위해

소송을 제기

했다는 소식이 전해졌습니다. 당시에는 지방 정부의 AI 규제에 반대하려는 AI 기업의 소송으로 비쳐, 큰 주목을 받지 못했습니다.

연방 차원에서도 주 단위 AI 규제를 견제하려는 움직임이 나타나고 있습니다. 행정부와 정치권에서는 지방 정부의 규제가 기술 혁신을 저해할 수 있다는 입장을 보였으며,

관련 행정 조치

도 이어지고 있습니다. 이 과정에서 앤트로픽이

주 정부 규제에 찬성한 데에 대해 비판

이 제기되기도 했습니다.

여기에 미국 법무부는

24일 이번 소송에 개입

했습니다. 법무부는 기업에 AI의 차별적 결과 방지 의무를 부과하는 방식이, 결과적으로 모델 설계와 표현의 자유를 제한할 소지가 있다고 지적했습니다.

이처럼 이번 사례는 겉보기에는 기업의 규제 반대와 이를 지지하는 정부의 움직임을 보여주는 흔한 일로 인식되기 쉽습니다.

그러나 이면에는 훨씬 중요하고도 무거운 근본적인 질문이 있다는 지적입니다.

파이낸셜 타임스(FT)

는 26일 칼럼을 통해 이번 소송을 AI와 인간, 그리고 기업의 책임에 대한 근본적인 질문을 포함한 중요한 사례로 지목했습니다.

우선 사건의 배경에는 2024년 미국 주 정부 중 처음으로 통과된 콜로라도의 AI 법(SB 24-205)이 있습니다. 이는 오는 6월 시행을 앞두고 있습니다. 여기에서는 고위험 AI 시스템, 즉 고용이나 주거, 금융, 의료 등에 큰 영향을 주는 분야에서 발생하는 '알고리즘 차별(Algorithmic Discrimination)' 방지를 의무화하고 있습니다.

이에 따라 AI 개발자와 배포자는 AI가 편향된 결정을 내리지 않도록 관리할 의무를 지게 되며, 시민들에게 AI가 내린 결정의 근거를 설명해야 합니다.

xAI는 이 법이 수정 헌법 제1조(표현의 자유)를 침해한다고 주장하는 것입니다. '사회적 형평성'이나 '다양성' 같은 특정 정치적 가치를 AI 모델에 강제로 주입하려 한다고 보는 것입니다. 이에 따라, AI가 '진실'을 말하는 대신, 정부가 정한 답변을 하도록 강요받는다는 주장입니다.

또 xAI는 AI의 결과값이 통계적 근거에 기반해야 하며, 이를 인위적으로 조정하는 것은 기술의 본질을 왜곡하는 것이라고 주장하고 있습니다.

그리고 이 문제는 AI를 넘어 민주주의와 인간의 문제를 포함한 철학적인 차원으로 넘어가게 됩니다,

민주주의 국가에서 권력이 개인의 권리를 제한할 때는 반드시 그 이유를 설명할 수 있어야 합니다. 콜로라도 법은 "AI가 그렇게 결정했다"라는 대답은 유효한 근거가 될 수 없다고 못 박은 것입니다. 인간이 단순히 기계의 결정에 휘둘리는 것이 아니라, 답변에 대한 설명받을 권리가 있다고 보는 것입니다.

알려진 대로 AI는 방대한 데이터 학습을 통해 찾아낸 패턴에 따라 확률적으로 답을 출력할 수 있지만, 자율적으로 도덕적 판단을 내놓을 수는 없습니다. 여기에는 정렬(alignment)이나 모델 학습법, 평가 체계 등이 필요합니다.

이 때문에 AI의 답변이나 행동이 차별적이라면, AI를 만든 기업이 설명하고 책임져야 한다는 것이 콜로라도 AI 법의 핵심입니다.

이는 사회적으로도 매우 민감한 사안으로, 결과에 따라서는 AI 산업 구조에 중요한 변화를 가져올 수 있는 분기점이 될 수 있습니다.

지난해부터 미국에서는 AI의 부추김이나 범죄 활용으로 인한 피해 사례가 속속 등장하고 있습니다. 만약 이런 상황에서 챗봇의 답변에 기업이 책임을 져야 한다면 큰 부담이 될 수 있습니다. 크고 작은 환각이나 오류에 대한 부담이 AI 기업에 돌아가기 때문입니다.

이를 FT는 '정당화(justification)'의 문제로 봤습니다. 정당화는 독일 철학자 위르겐 하버마스와 미국의 사상가 존 롤스의 정치 이론에서 핵심적인 요소로, 인간관계에서도 중요한 의미를 지닙니다.

누군가를 설득해 우리의 의견에 동의하게 하거나 우리가 원하는 행동을 하도록 할 때, 우리는 우리의 요구를 정당화해야 합니다. 정당한 이유 없이 동의나 복종을 강요하는 것은 학대이며, 기본적인 존중의 결여입니다. 하버마스와 롤스는 시민으로서, 그리고 인간으로서 우리는 서로에게 이유를 제시해야 할 의무가 있다는 것입니다.

콜로라도주도 AI가 정당한 이유를 밝히지도 못한 상태에서 이로 인해 누군가 피해를 보게 된다면, 그 결과는 기업이 책임을 져야 한다는 것을 법제화한 것입니다.

만약 이런 입장이 모든 주에 적용된다면, AI 기업들은 엄청난 부담을 안게 됩니다. AI는 블랙박스 상태로, 답변이 어떻게 나왔는지는 아직 모릅니다.

이는 소셜 미디어와도 비교할 수 있습니다. 메타나 구글 등 미국의 빅테크들이 수많은 소송에도 불구, 아직 서비스를 운영할 수 있는 것은 미국의 '

통신품위법 230조

' 때문입니다. 이는 온라인 플랫폼에 올라온 콘텐츠로 인해 생긴 사건에 대해 플랫폼 운영자는 책임 없다는 기업 보호 규정입니다.

SNS에 올라온 모든 게시물에 대해 기업이 책임을 져야 한다면, 어떤 일이 일어날지는 뻔합니다. 여기에 AI 기업은 소셜 미디어 기업의 '단순 중계'가 아니라, 일종의 콘텐츠 작성과 편집에 가까운 상태로 같은 잣대를 적용받기는 어려울 것으로 보입니다.

특히 대형언어모델(LLM)은 자신이 학습하지 않은, 즉 세상에 존재하지 않는 답도 말하도록 설계됐습니다. 환각을 완전히 제거하기는 어렵습니다. 반대로 모르는 것을 모른다고 답하도록 설계하면, 사용성에 제약이 생길 수 있습니다.

따라서 이번 소송이 왜 그렇게 중요한지, 그리고 미국 정부가 왜 지원에 나섰는지 이해가 될 것입니다. xAI의 논리를 파고들면 'AI도 표현의 자유가 있으며, 시스템의 판단 과정에 개입하는 것이 부당하다'라는 결론에 도달하게 됩니다.

물론, 이에 대해 콜로라도주 의회와 법안 발의자들은 머스크 CEO가 이 법의 본질을 완전히 왜곡하고 있다고 비판했습니다.

브리아나 티톤 주 하원의원

은 "이 법은 표현의 자유가 아니라 고용, 주택, 의료 등 '중대한 결정'에 관한 것"이라며 "우리는 '그록'이 무례하게 구는 것을 막으려는 게 아니라, 그 결정이 시민의 삶에 차별적인 영향을 미칠 때 책임을 묻고자 하는 것"이라고 말했습니다.

또 xAI의 입장이 법정에서 받아들여질지는 미지수입니다. 이에 대해서는 이미 판례가 있습니다.

미국 플로리다 연방법원은 2025년 5월 캐릭터닷AI를 상대로 제기된 청소년 자살 관련 소송에서

의미 있는 판결

을 내놓았습니다. 캐릭터닷AI는 "챗봇의 답변은 수정 헌법 제1조에 의해 보호받는 표현물"이라고 주장하며 소송 기각을 요청했지만, 법원은 이를 거부한 것입니다.

당시 법원은 "LLM에 의해 나열된 단어들이 왜 '표현'에 해당하는지 피고 측은 제대로 설명하지 못했다"라며, AI의 출력물은 인간의 지성적·의도적 표현이 아니므로 헌법적 보호 대상이 아니라고 봤습니다. 결국 이런 근거로 당시 재판에서도 AI 기업의 책임이 인정됐고, 결국 캐릭터닷AI는 원고와 합의로 사건을 마무리했습니다.

최근 비슷한 사건이 부쩍 늘어남에 따라, 앞으로 이 문제는 더 부각될 가능성이 있습니다. 그리고 SNS와는 달리, 기업이 AI의 잘못된 답변에 대해 보호받지 못할 가능성도 있습니다.

FT는 "LLM이 추론의 흔적을 제공할 수 있다고 하더라도 그것만으로는 충분하지 않다. 우리가 서로에게 정당성을 부여해야 한다는 것을 인정할 때, 우리는 서로를 동등한 존재로 인식하게 되며, 이는 상호성에 대한 모든 도덕적 책임을 수반한다"라며 "이러한 책임은 현재까지 오직 인간만이 가능한 것"이라고 결론 내렸습니다.

결국 xAI는 AI 시스템이 내리는 결정을 인간의 도덕적 잣대로 검열해서는 안 된다고 주장한 것으로, 이를 통해 AI 기업의 책임을 회피하려는 의도로 볼 수 있습니다.

그러나 도덕적 책임과 정당화 의무를 질 수 없는 AI가 인간과 동일한 헌법적 보호를 받는 것이 정당한지, 그리고 AI 기업이 과거 SNS 시대의 중립적 전달자 역할을 계속 주장할 수 있을지는 여전히 의문입니다.

이어 주말 주요 뉴스입니다.

비전 바나나 (사진=arXiv)

"그리는 것이 곧 이해하는 것"…구글, 생성 AI로 비전 AI 역할까지 하는 '비전 바나나' 공개

그림 그리는 생성 AI가 그림을 이해하는 비전 AI로도 활용될 수 있다는 연구 결과입니다. 이는 구글의 나노 바나나를 미세조정한 결과입니다. 사실 최근 이미지 생성에 추론 기능이 추가되는 등 멀티모달 기능이 향상하며 어느 정도 예상된 결과입니다.

앤트로픽이 증명한 ‘에이전트 거래’의 실체..."반려견 산책까지 성사"

앤트로픽이 인간을 대신해 에이전트끼리 상거래를 진행하는 실험을 진행했습니다. 결과는 유용한 편인데, 문제도 많은 것으로 나타났습니다. 특히 고성능 모델이 저성능 모델보다 좋 결과를 얻었는데, 이는 실제 에이전트 상거래가 활성화되면 기술 불평등을 초래할 가능성이 있습니다.

에포크 AI "AI 챗봇, 소득 따라 엇갈려...'클로드'는 부유층이 많이 써"

미국 사용자들을 대상으로 한 설문 조사에서 고소득층에서는 클로드 사용이 가장 많은 것으로 나타났습니다. 이는 고연봉 엔지니어들 때문으로 보입니다. 반면 페이스북이나 인스타그램 등에서 누구나 쉽게 접근할 수 있는 메타 AI 사용자는 저소득층 비중이 컸습니다.

AI타임스 news@aitimes.com