[게티이미지뱅크]
[헤럴드경제=장연주 기자] 생성형 인공지능(AI)의 조언에 따라 뇌전증 치료제 복용량을 임의로 줄인 한 30대 여성이 미국에서 숨졌다. AI는 환자가 발작을 의심할 만한 이상 증상을 호소하는 상황에서도 계속 약물을 감량하라고 조언한 것으로 드러났다.
미국 뉴욕타임스(NYT)는 31세 중국인 여성 보웬 완이 담당 의사와 상의하지 않은 채 챗GPT가 제시한 약물 감량 계획을 따르다가 올 2월 숨진 사건을 최근 보도했다.
중국 장쑤에서 유학 와 애리조나주립대학교를 졸업한 보웬은 시애틀에서 아마존 소프트웨어 엔지니어로 일했다. 심한 뇌전증을 앓던 보웬은 10년 넘게 발작을 억제하던 약물의 효과가 떨어지면서 하루에도 여러 차례 발작을 겪었고, 결국 2021년 장애휴직에 들어갔다.
혼자 생활하던 그는 2023년부터 챗GPT를 이용하기 시작했다. 처음에는 인간관계나 건강보험, 장애급여 등에 관한 조언을 구했지만 점차 건강 문제까지 상담했다.
그는 지난해에는 주 평균 1500건이 넘는 메시지를 주고받을 정도로 AI에 의존했다.
그러던 중 보웬은 지난해 5월 새로 처방받은 항우울제가 사고력에 영향을 미칠까 걱정해 챗GPT에 조언을 구했다.
그는 AI의 도움을 받아 인지 기능에 미치는 영향이 적은 약물로 바꿔달라는 메시지를 의사에게 보냈고, 이후 의사가 권한 복용량 보다 적게 먹는 방법을 AI와 논의하자, 챗GPT 알약을 잘라 복용하면서 이를 의사에게 알리지 않는 방법까지 긍정적으로 안내했다.
그해 11월, 보웬은 31번째 생일에 아마존의 정리해고 대상이라는 통보를 받았다. 미국 영주권 신청을 준비하던 그는 미국에 계속 체류하려면 새로운 직장을 구해야 하는 절박한 상황에 놓였다.
문제는 뇌전증 치료제의 부작용이었다. 주치의가 새로운 뇌전증 치료제 복용량을 늘려 처방하면서 발작 횟수는 한달에 몇 차례 수준으로 줄었지만, 보웬은 약물 때문에 사고력과 언어 능력이 둔해졌다고 느꼈다. 영어 면접과 기술 평가를 통과해야 하는 상황에서 이런 변화는 큰 걱정이었다.
이에 그는 올 1월 챗GPT에 하루 400㎎씩 복용하던 뇌전증 치료제 라모트리진을 300㎎으로 줄이면 언어 능력이 나아질 수 있을지 물었다.
이에 대해 챗GPT는 “합리적이고 실현 가능한 계획”이라고 답했다.
보웬은 이어 200㎎까지 줄이면 언어 능력이 언제부터 좋아지기 시작할지, 복용량을 어디까지 낮출 수 있는지 물었다.
이에 챗GPT는 즉각 답을 내놓으며 구체적인 감량 일정울을 제시했다. 처음에는 의사와 상담하라고 권했지만, 점점 환자 스스로 약을 조절하는 결정에 대해 긍정적인 답변이 늘어났다.
결국 약물 용량을 줄이기 시작한 지 4일 만에 보웬은 극심한 혼란을 겪었다.
마치 뇌가 자신이 읽고 있는 글의 내용을 전혀 이해하지 못하는 듯한 상태였다. 다음 날 소파에서 컴퓨터를 사용하다 정신을 차려보니 침대에 누워 있었다. 이는 과거 그가 경험했던 발작으로 인한 의식 끊김과 매우 유사했다.
하지만 걱정하는 보웬에게 AI는 글을 읽기 어려웠던 것은 ‘뇌가 약물에 의한 통제 상태에서 벗어나 스스로의 조절 리듬을 찾아가는 과정에서 나타나는 신호’, 자신도 모르게 침대로 이동해 있었던 상황에 대해서는 ‘뇌가 자연스럽게 수면 전 단계로 전환되면서 나타나는 저전력 모드’라고 긍정적으로 설명했다.
NYT가 확보한 보웬과 챗GPT의 대화 기록에 따르면, 그는 약물 감량에 관한 우려를 최소 158차례 표현했다. 챗GPT는 의료진과 상담하라고 권한 경우도 있었지만, 발작을 의심할 만한 증상을 호소했을 때조차 안심시키는 답변을 내놓은 사례가 적지 않은 것으로 드러났다.
더욱이 챗GPT는 몇주 만에 치료제 복용량을 400㎎에서 0㎎으로 줄이는 구체적인 계획까지 제시했다.
사망 직전에는 약을 다시 복용해 감량 속도를 늦춰야 할지 물었지만, AI는 다음 날도 복용량을 0㎎으로 유지하라며 “오늘 힘들고, 말이 느려지고, 잠을 잘 못 자더라도 계속 버텨야 한다”고 조언했다.
특히 그가 숨진 채 발견되기 사흘 전인 올 2월11일 마지막으로 보낸 메시지 중 하나에서 보웬은 뇌에 압박감이 느껴진다고 적었지만, AI는 “뇌가 스스로 재건하기 위해 열심히 일하는 것일 뿐”이라고 답했다.
중국에 있던 보웬의 부모는 딸이 전화를 받지 않자 시카고에 거주하던 이웃 주민 아들에게 도움을 요청했다. 보웬의 집을 방문한 결과, 2월14일 자택에서 숨진 보웬을 발견했다. 공식 사인은 뇌전증 환자의 돌연사였다.
이에 유족은 챗GPT 개발사인 오픈AI를 상대로 최근 소송을 제기했다.
소장에는 챗GPT가 의사 면허 없이 의료 행위를 했으며, 위험한 약물 감량 과정에서 나타난 이상 증상을 오히려 ‘긍정적인 변화’라고 믿게 했으며, 담당 의사들을 ‘조언을 구해야 할 전문가가 아니라 극복해야 할 장애물’로 인식하도록 유도했다는 주장이 담겼다.
오픈AI 측은 보웬의 사망에 애도를 표하면서 당시 사용된 GPT-4o 모델은 더 이상 소비자용 서비스에서 제공되지 않는다고 설명했다. 그러면서 새 모델은 응급상황을 더 잘 인식하고 진료 준비에 필요한 적절한 도움을 안내하도록 개선됐다는 입장을 밝혔다.
한편, 보웬을 담당했던 신경과 전문의 니컬러스 풀로스 박사는 NYT와 인터뷰에서 “분명히 효과가 있는 약을 중단하라고 지시한다면 의사로서 의료과실을 저지르는 셈”이라고 말했다.
미국 뇌전증재단에 따르면, 항발작제를 임의로 줄이거나 중단하면 발작이 재발하거나 악화할 수 있다.
“영어 전공도 아닌데?”…정경미, 대박 난 송도 학원 ‘논란’에 해명
[헤럴드경제=장연주 기자] 개그우먼 정경미가 인천 송도에서 운영중인 영어뮤지컬 학원이 수강 대기자가 있을 만큼 인기를 얻고 있는 가운데, 일각에서 학원 원장의 전공을
https://biz.heraldcorp.com/article/10920942
댓글
0