AI 기본법 시행
전화기 너머 들려오는 목소리가 너무 익숙하다. 평소 자주 듣던 손주의 목소리다. 울먹이는 말투까지 똑같다. 예전 같으면 의심조차 하지 않았을 것이다. 하지만 이제는 한 번쯤 멈춰 생각해야 하는 시대가 됐다. 생성형 AI 챗GPT 생성 이미지
◇AI 기본법, 두 번의 시행으로 완성되다
“할머니, 나 지금 사고 났어. 빨리 돈 좀 보내줘.”
전화기 너머 들려오는 목소리가 너무 익숙하다. 평소 자주 듣던 손주의 목소리다. 울먹이는 말투까지 똑같다. 예전 같으면 의심조차 하지 않았을 것이다. 하지만 이제는 한 번쯤 멈춰 생각해야 하는 시대가 됐다. 인공지능은 사람의 짧은 음성만으로도 거의 구별하기 어려울 만큼 자연스럽게 목소리를 흉내 낼 수 있다.
기술은 놀라울 만큼 발전했지만, 그만큼 범죄도 교묘해졌다. 불과 몇 년 전만 해도 AI는 그림을 그리거나 글을 쓰는 신기한 기술 정도로 여겨졌다. 그러나 이제는 금융, 의료, 교육은 물론 범죄 수법까지 바꿀 만큼 우리 일상 깊숙이 들어왔다. 기술이 생활이 된 만큼, 이를 안전하게 사용할 규칙도 더 이상 미룰 수 없게 됐다.
그래서 올해 우리나라 첫 AI 기본법이 두 단계에 걸쳐 시행됐다. 지난 1월 22일에는 본법과 함께 딥페이크 표시 의무, 고위험 AI 안전관리 같은 ‘보호 장치’가 먼저 가동됐다. 그리고 지난 7월 21일부터는 시행령이 시행되면서, 공공기관이 AI 제품을 우선 구매하고 고령자·장애인 등 취약계층의 AI 이용 비용을 지원하는 ‘진흥 장치’가 뒤따라 작동을 시작했다.
AI 기본법은 우리나라가 처음 마련한 인공지능 분야의 기본법이다. AI 산업을 키우면서도 국민의 안전과 권리를 함께 보호하자는 것이 핵심이다. 쉽게 말해 ‘AI는 더 발전시키되, 사람에게 해를 끼치지 않도록 책임도 함께 묻겠다’는 원칙을 세운 법이다.
이를 위해 법은 크게 세 가지 방향을 제시했다. 첫째, 사람의 생명과 안전에 큰 영향을 미치는 의료·교통·에너지 같은 분야의 AI는 더욱 엄격하게 관리하도록 했다. 둘째, AI가 만든 영상이나 음성 때문에 국민이 속지 않도록 생성형 AI 콘텐츠의 표시 제도를 마련했다. 셋째, 고령층과 장애인 등 디지털 취약계층도 AI를 배우고 활용할 수 있도록 국가와 지방자치단체가 지원할 수 있는 근거를 담았다.
이 세 가지 방향 가운데 첫째와 둘째는 지난 1월 22일 본법 시행과 함께 이미 현실에서 작동하고 있고, 셋째는 지난 7월 21일 시행령이 시행되면서 비로소 구체적인 지원 절차를 갖추게 됐다.
◇경로당에서 벌어진 소동
얼마 전 실제 보이스피싱 피해 사례들을 바탕으로 재구성한 장면이다. 대구의 한 경로당. 칠십대 어르신 한 분이 휴대전화를 붙잡고 안절부절못하고 있었다.
“우리 손자가 사고가 났다는데, 계좌번호를 불러달래.”
옆에 있던 친구가 물었다. “목소리 확실히 들었어?”
“그럼, 내가 우리 손자 목소리를 몇 년을 들었는데 모르겠나.”
다행히 그 자리에 있던 다른 어르신이 말렸다. “일단 끊어보게. 다시 손자한테 전화를 걸어보자고.”
전화를 걸었더니 손자는 집에서 태연히 게임을 하고 있었다. 목소리는 진짜였다. 하지만 그 목소리를 낸 것은 손자가 아니었다.
발전된 기술만큼 교묘해진 범죄
가족 목소리 흉내 ‘AI 피싱’ 기승
얼굴 합성 영상으로 화상통화도
무조건 한 번 끊고 다시 걸거나
가족만 알 수 있는 질문 던져야
이런 유형의 피해는 이미 국내외에서 실제로 발생하고 있다. 예전 보이스피싱은 어색한 말투나 서툰 한국어 때문에 비교적 쉽게 의심할 수 있었다. 하지만 요즘은 다르다. 인공지능이 짧은 음성만으로도 억양과 말투를 정교하게 재현하면서, 가족조차 쉽게 속을 수 있는 시대가 됐다.
◇‘속지 않을 권리’를 지키는 제도 - 올해 1월부터 시작됐다
지난 1월 22일부터 일정 요건에 해당하는 생성형 AI 콘텐츠에는 마치 상품에 붙는 원산지 표시처럼 “이것은 AI가 생성한 콘텐츠입니다”라는 사실을 알리는 표시가 붙게 됐다. 지금 마트에서 파는 소고기에 국내산인지 수입산인지 표시가 붙어 있는 것과 비슷한 이치라고 생각하면 이해하기 쉽다.
물론 모든 영상에 이 표시가 곧바로 적용되는 것은 아니다. 법에서 정한 일정한 대상부터 단계적으로 자리를 잡아가는 제도다. 따라서 표시가 있든 없든 인터넷이나 SNS에서 자극적인 영상이나 사진을 접하면 “혹시 AI가 만든 것은 아닐까” 하고 한 번 더 확인하는 습관이 무엇보다 든든한 보호막이 된다.
AI가 중요한 결정을 내릴 때도 마찬가지로 지난 1월부터 더 엄격한 관리를 받는다. 사람의 생명과 안전, 권리에 큰 영향을 미칠 수 있는 ‘고위험(고영향) AI’에 대해서는 한층 엄격한 관리 기준이 함께 시행됐다. 잘못 판단하면 국민의 생명이나 재산에 피해를 줄 수 있는 분야가 여기에 해당한다.
최종 판단까지 모두 AI에게 맡기겠다는 뜻은 아니다. 중요한 결정일수록 사람의 책임과 감독이 함께 따라야 한다.
◇가족을 지키는 세 가지 습관
목소리만으로는 더 이상 가족을 확인할 수 없는 시대다. 그래서 다음 세 가지 습관을 권한다.
첫째, 무조건 한 번 끊고 다시 건다.
“엄마, 휴대전화가 고장 났어.”
“할아버지, 지금 병원인데 급하게 돈이 필요해.”
이런 전화를 받으면 놀란 마음에 바로 계좌번호부터 찾기 쉽다. 하지만 먼저 전화를 끊고 평소 저장해 둔 번호로 직접 다시 걸어보는 것이 가장 안전하다. 정말 사고가 났다면 다시 전화해도 늦지 않다.
둘째, 가족만 아는 질문을 던진다.
“우리 강아지 이름이 뭐였지?”
“지난 추석에 어디 갔었지?”
이런 질문이다. 인공지능은 목소리는 흉내 낼 수 있어도 가족만 공유하는 추억과 경험까지 모두 알고 있는 것은 아니다.
셋째, 화상통화도 완전히 믿지 않는다.
“얼굴까지 봤는데 설마.”
이렇게 생각하기 쉽지만, 이제는 얼굴까지 실시간으로 바꿔 보여주는 딥페이크 기술도 등장했다. 실제 해외에서는 화상회의에 등장한 가짜 임원의 얼굴과 목소리를 믿고 거액을 송금한 사건도 있었다. 얼굴을 봤다고 해서 무조건 안심할 수 있는 시대는 이미 지났다.
◇7월 시행령의 진짜 핵심 - 공공기관이 먼저 AI를 쓴다
지난 7월 21일 시행된 시행령은 딥페이크 대응이나 고위험 AI 관리보다는, AI 산업을 실질적으로 키우는 ‘진흥’에 무게중심이 실려 있다. 그 첫 번째가 ‘공공조달 시 AI 제품·서비스 우선 고려 제도’다.
공공기관이 업무에 필요한 제품이나 서비스를 도입할 때, 앞으로는 AI를 활용한 제품·서비스를 우선 검토하도록 했다. 어떤 제품이 우선 검토 대상인지는 과학기술정보통신부 장관이 확인하되, 실무적으로는 한국인공지능진흥협회가 이를 위탁받아 확인하고, 한국정보통신기술협회(TTA)가 기술 심사를 맡는 방식으로 운영된다. 이렇게 AI 활용 확인서를 받은 기업은 공공 입찰에서 납품 실적 요건이 면제되거나 가산점을 받는 등 여러 우대를 받게 된다.
AI 콘텐츠 ‘AI 표시’ 의무화
공공기관이 AI 제품 우선 구매
AI취약계층 교육 지원 나서
AI, 무조건 두려워하기보다
적극 배워 도구로 활용해야
◇AI를 배우는 데도 나라가 돕는다
이번 시행령에서 눈여겨볼 또 하나의 변화는 AI를 배우고 활용할 기회를 넓혔다는 점이다. 정부와 지방자치단체는 장애인, 65세 이상 고령자, 기초생활수급자, 차상위계층 등 기존의 디지털 취약계층뿐 아니라, 경력보유여성, 구직자, 비수도권 소재 중소기업 재직자, 농어업인까지 ‘AI 취약계층’의 범위를 넓혀 이들에게 AI 서비스 이용 비용을 지원할 수 있는 법적 근거를 마련했다.
스마트폰을 처음 배울 때 자녀가 옆에서 하나하나 알려주던 것처럼, 이제는 정부와 지방자치단체가 AI 활용 교육과 서비스 이용을 지원할 수 있는 제도적 기반이 마련된 것이다. 다만 예산 규모와 지원 방식은 지역과 사업에 따라 달라질 수 있다. 실제 이용을 원한다면 가까운 주민센터와 노인복지관, 평생학습관 등에 문의하는 것이 가장 정확하다.
대구·경북에서도 복지관과 평생학습관, 주민센터 등을 중심으로 AI 교육과 활용 프로그램이 앞으로 더욱 확대될 가능성이 크다. 스마트폰을 배우던 시대를 지나 이제는 AI를 배우는 시대가 시작되고 있는 셈이다.
◇두려움 대신 배우는 용기
많은 어르신들은 AI라는 말만 들어도 손사래부터 친다.
“그런 건 젊은 사람들이나 하는 거지.”
하지만 돌이켜보면 집집마다 전화기가 처음 놓였을 때도, 컴퓨터가 사무실에 처음 들어왔을 때도, 스마트폰이 처음 손에 쥐어졌을 때도 사람들은 비슷한 말을 했다. 처음에는 낯설었지만 결국은 생활의 일부가 됐다.
AI도 마찬가지다. 모르면 두려운 기술이지만 배우면 가장 든든한 생활도구가 된다. 필자는 AI를 이야기할 때마다 두 가지를 강조한다.
첫째는 의심하는 습관이다. 영상도, 음성도, 문자도 그대로 믿지 말고 한 번 더 확인하는 습관이다.
둘째는 배우는 용기다. 앞으로는 AI를 잘 활용하는 사람이 더 많은 정보를 얻고, 더 편리한 삶을 살아가게 될 것이다. 이제 중요한 것은 나이가 아니라 배우려는 마음이다.
손주의 목소리를 흉내 내는 기술도 AI이고, 병원 예약을 도와주는 기술도 AI이며, 약 먹을 시간을 알려주고 건강을 챙겨주는 것도 AI다. 자동차를 운전하려면 교통법규를 알아야 하듯, AI 시대를 살아가려면 AI를 이해하는 기본 소양도 새로운 생활상식이 되고 있다. 기술을 두려워하기보다 제대로 알고 현명하게 사용하는 사람이 결국 더 안전하고 더 자유로운 삶을 누리게 될 것이다.
글=김종갑 대신대학교 교양학과 특임교수·(인천)재능대학교 유통상품기획과 특임교수·출판사 ‘오후의 글방’ 대표
댓글
0