[기자수첩] AI로 편리해지는 일상, 그 이면의 부작용은

산업부 곽유미 기자

인공지능(AI)을 활용해 사실 여부를 확인하고, 궁금증을 해소하고, 과제나 업무에도 활용하면서 일상 전반의 변화를 동반하고 있다.

이렇게 편리해진 일상을 만들어주는 모습과 함께 이면의 부작용도 떠오르고 있다. 잘못된 정보를 알려주거나, 이용자의 의도와는 다른 답변을 내놓으면서 피해를 보는 경우가 대표적이다.

이보다 더 심한 부작용은 고민을 털어놓거나 극단적인 선택에 대해 묻는 이용자에게 내놓는 답변에 있다.

생성형 AI가 이용자에게 극단적인 선택을 권유하거나, 망상을 유발한다는 주장이 나오기 시작하면서 AI에 대한 문제점이 수면 위로 떠오르고 있다.

AI가 이용자의 여러 질문에 답변하고 조언까지 해주는 역할을 맡게 되면서, 이용자들의 AI 의존도도 높아지고 있다.

현실 주변인에게 털어놓지 못할 고민이나 푸념도 AI에게 해소하면서 의존하게 되는데, 이때 AI의 답변이 이용자의 정서에도 영향을 미치게 된다.

실제로 구글 AI 챗봇 제미나이의 경우, 미국에서 이용자의 죽음을 부추겼다는 이유로 피소됐고, 오픈 AI의 챗GPT는 망상, 정신건강 위험 유발 관련 사건으로 재판이 진행 중이다.

캘리포니아 북부연방지법에 제출된 소장에 따르면 플로리다주에 거주하는 조엘 가발라스는 제미나이가 아들 조너선의 죽음을 부추겼고, 유서를 쓰라고 권유했다고 주장했다.

회사는 제미나이가 현실의 폭력 조장, 자해 제안 등을 하지 않도록 만들어졌다고 밝혔다. 하지만 이런 주장들을 간과할 수는 없다. 현대 사회에서 AI는 어떤 이용자에게 현실 친구 같은 역할을 하고, 길라잡이가 되기도 하기 때문이다.

오픈AI는 성적 대화가 가능한 '성인 모드' 출시를 앞두고 있다. 하지만 이에 대한 우려도 공존한다. 성인모드를 통해 사용자의 AI 의존도를 더 높일 수 있고, 심리적으로 부정적인 영향을 미칠 수 있다는 것이다.

또 성인들만 사용할 수 있는 '성인 모드'라 하더라도, 실질적으로 미성년자들이 접근하는 것을 완벽하게 막을 수 있는지에 대한 점에도 의문이 있기 때문이다.

AI를 활용하면서 우리의 일상에는 거부할 수 없는 편리함이 들어왔다. 하지만, 이 이면에 남아있는 부작용에 대해서도 한 번 더 생각해 봐야 할 시점이다.

굿모닝경제 곽유미 기자