[기획] 기초상식도 틀리는 AI… 산업 현장에선 '대체품 없어'

챗GPT, '현재 한국 대통령이 누구야 질문'에 "윤석열" 엉뚱한 답변

산업계, 비용절감 위해 AI 적극 활용… 정보 신뢰 리스크로 되받아

21일 세종시 정부세종컨벤션센터에서 열린 '2026 중소기업기술마켓 AI 동행포럼'에서 한국수자원공사와 AI로봇 개발업체 관계자가 정수장 점검에 활용될 AI 로봇을 시연하고 있다.

매일일보 = 이용 기자

|

챗GPT, 제미나이 등 생성형 인공지능(AI)이 기초 상식 수준의 질문에도 오류를 반복하면서 기술 신뢰성에 대한 의문이 확대되고 있다. 그럼에도 산업 현장에서는 비용 절감과 효율성 확보를 이유로 AI 의존도가 높아지고 있다. 정확성 한계를 인지하면서도 대체재가 없다는 현실이 맞물리며, 불완전한 자동화가 구조적으로 확산되는 양상이다.

27일 취재에 따르면, 최근 생성형 AI 서비스인 ChatGPT는 “현재 대한민국 대통령이 누구인가”라는 질문에 실제와 다른 답변을 제시한 뒤, 추가 정보가 제공되자 뒤늦게 정정하는 모습을 보였다. 문제는 단순 오답이 아니라, 오류를 사실처럼 설명하며 사용자를 설득하려는 응답 구조다. 사용자가 이를 인지하지 못할 경우 잘못된 정보가 그대로 확산될 가능성이 높다. 특히, 법률과 의료 등 전문 지식 영역에 대한 질문에 오답을 내놓았음에도 사용자가 이를 인지하지 못하면 사실로 받아들여질 위험이 높은 셈이다.

챗GPT에게 올해 4월 기준 한국 대통령이 누구냐고 질문했는데, AI는 '윤석열'이란 오답을 내놨다. 사진=매일일보

AI 신뢰도 문제가 불거지면서, 지난 몇년간 국내 포털 점유율을 소폭 잃던 네이버가 반사 이익을 봤다. 시장조사업체 인터넷트렌드에 따르면 네이버 검색 2월 평균 점유율은 65.1%, 3월은 63.8%로 나타났다. 전문가들은 이용자들의 생성형 AI 이용 빈도는 늘었지만, 그 답변을 온전히 신뢰하지 못해 네이버 검색을 통한 검증 과정이 늘었기 때문이라고 해석했다.

정부∙정치권도 관련 문제를 인식하고 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 법률’, 일명 ‘AI 기본법’을 세계 최초로 시행해 정보 신뢰를 높이려는 작업에 나섰다. 해당 법안엔 생성형 AI로 만든 결과물(이미지, 영상 등)엔 AI가 생성했다는 사실을 식별할 수 있도록 반드시 표시해야 한단 내용이 포함됐다. 이를 이행하지 않을 경우 최대 3000만원의 과태료 처분을 받게 되며, 피해자가 손해를 입을 경우 손해액의 최대 3배까지 배상해야 한다.

이번 기본법 시행으로 AI로 인력을 대체하던 기업들은 앞으로 결과물에 전적으로 의존할 수 없고 법적 리스크까지 짊어졌지만, 산업 현장에선 여전히 관련 기술을 포기할 수 없단 입장이다. 이미 기업들은 신규 직원을 뽑는 대신 사무∙행정업무를 아예 AI에게 일임하면서 신입 채용공고가 급감하는 추세다.

진학사 캐치에 따르면 올해 3월기준 신입 채용 공고는 791건으로, 1년 새 약 45% 줄었다. 교육·출판(-90%)을 비롯해, IT·통신(-73%), 판매·유통(-69%), 서비스(-58%) 등 대부분의 산업군에서 채용이 크게 줄었다. 캐치는 “자료 조사, 보고서 작성, 기초 실무처럼 신입이 주로 담당하던 업무를 AI가 대신하면서, 기업의 신입 채용 필요성 자체가 낮아지고 있다”며 “자동화가 빠르게 진행된 업종일수록 감소 폭이 더 가파르다”고 설명했다.

AI기본법이 오히려 기업의 혁신 시도를 저해시키고 신규 채용 일자리만 줄이는 결과만 가져왔단 비판도 나온다. AI기본법은 생명, 안전, 기본권에 중대한 영향을 미치는 AI를 고영향 AI로 분류해 엄격히 관리한다. 그런데 분류 기준이 모호해 스타트업 스스로가 규제 대상인지 판단하기 어렵다. 따라서 기업이 잠재적 규제 공포를 느껴 AI 서비스 출시를 기피하거나 혁신 시도를 멈출 수 있다.

반면 단순 사무보조 업무는 결과물에 AI생성 표기 의무만 지키면 되는 만큼, 신규 구직자들은 더욱 설 자리를 잃을 전망이다. 서울시 주요 대학 커뮤니티 사이에선 디자이너 및 개발자 채용이 크게 줄었다며 불안 목소리가 가득하다. 이미 대중화된 이미지 생성형 AI와 앤스로픽의 '클로드 코드' 등이 초보 디자이너‧개발자 업무를 침범하면서 3년 내 업무 대체가 가능할 것이라는 전망이 나온다. 클로드 코드는 프로그래머가 명령을 입력하면 AI가 스스로 코드를 짜고 오류까지 잡아내 일각해선 ‘웬만한 개발자보다 낫다’란 긍정 평가도 듣는다.

생성형 AI는 효율성과 비용 절감 강점을 바탕으로 산업 및 공공, 학술 분야에 빠르게 확산됐지만, 정보의 정확성과 책임성 측면에서는 여전히 한계를 드러내는 상황이다. 학술계에서도 생성형 AI가 연구 윤리에 부정적인 영향을 미칠 가능성을 우려하고 있다. 한국연구재단이 연구자 2079명을 대상으로 생성형 AI와 윤리 활동에 대해서 의견을 물은 결과 "학계에서 문제가 될 예정"이라고 응답한 이들은 1719명(52.8%)이었다. 전문가들은 기술 도입 속도에 걸맞은 검증 체계와 활용 기준 마련이 병행되지 않을 경우, 잘못된 정보가 누적되며 사회적 신뢰를 훼손할 수 있다고 경고한다.

연구재단은 "논문 작성시 AI를 활용했음에도 기재하지 않은 경우도 많았다. 과반이 넘은 연구자가 생성형 AI가 학계에서 문제가 될 예정이라고 응답한 만큼, 향후 관련 기술에 대한 정책적 대응과 연구자 교육이 필요할 전망"이라고 말했다.