개인정보 유출·저작권 위반 경고
AI 결과물 ‘검증 책임’ 강조
훈련생 대상 실무 유의사항 제시
◆…고용노동부가 20일 발간한 '직업훈련 수강생을 위한 AI 활용 기초역량 가이드북'은 AI를 실제 업무에 활용할 때 발생할 수 있는 위험 요소를 사전에 차단하는 데 초점을 맞췄다. (사진=고용노동부 제공)
고용노동부가 인공지능(AI) 직업훈련 수강생을 대상으로 보안과 검증 중심의 활용 기준을 담은 가이드북을 발간했다. 생성형 AI 확산 속에서 잘못된 사용으로 발생할 수 있는 위험을 줄이기 위한 유의사항을 핵심 내용으로 제시했다.
고용노동부는 20일 '직업훈련 수강생을 위한 AI 활용 기초역량 가이드북'을 발간했다고 밝혔다. 이번 가이드북은 AI를 실제 업무에 활용할 때 발생할 수 있는 위험 요소를 사전에 차단하는 데 초점을 맞췄다.
가이드북은 개인정보 유출 위험을 주요 문제로 제시했다. 공개형 AI에 입력한 내용은 외부에 노출될 수 있는 구조라는 점을 지적하며, 이력서나 업무 자료 등 민감한 정보를 그대로 입력하는 행위를 피해야 한다고 안내했다.
데이터 보호를 위한 기본 원칙도 강조됐다. 민감 정보는 식별이 불가능하도록 가공하는 '데이터 익명화'가 필요하며, 기업 내부 자료는 외부 AI에 입력하지 않는 것이 바람직하다고 설명했다.
저작권 문제 역시 주요 유의사항으로 제시됐다. AI가 생성한 결과물을 그대로 사용하는 과정에서 저작권 침해가 발생할 수 있는 만큼 출처 확인과 사용 범위 검토가 필요하다고 안내했다.
AI 결과물에 대한 무비판적 수용도 위험 요소로 지목됐다. 가이드북은 AI가 사실이 아닌 내용을 만들어내는 '환각' 현상을 경고하며, 생성된 정보의 출처와 수치를 반드시 검증해야 한다고 강조했다.
이에 따라 '휴먼 인 더 루프(HITL)' 원칙을 핵심 기준으로 제시했다. AI가 생성한 결과를 그대로 사용하는 것이 아니라 사람이 직접 확인하고 수정하며 최종 책임을 가져야 한다는 설명이다.
AI 활용 과정에서의 지시 방식도 중요한 요소로 제시됐다. 가이드북은 역할·맥락·과업·조건을 포함한 'PCTC 원칙'을 활용해야 하며, 불완전한 지시로 인해 오류가 발생할 수 있다고 안내했다.
데이터 해석 과정에서도 주의가 필요하다고 강조됐다. AI가 제시한 숫자나 그래프는 실제와 다를 수 있어, 데이터 출처와 구성 방식을 확인해야 한다고 설명했다.
고용노동부는 이번 가이드북이 AI 활용 기술 중심 교육의 한계를 보완하기 위한 것이라고 밝혔다. 수강생들이 현장에서 AI를 안전하게 활용할 수 있도록 기본 원칙을 제시하는 데 목적이 있다는 설명이다.
편도인 직업능력정책국장은 "AI는 훌륭한 비서이지만 일의 주인은 사람"이라며 "훈련생들이 AI를 안전하고 효과적으로 활용할 수 있도록 지원하겠다"고 밝혔다.
이번 가이드북은 직업훈련기관에 배포되며, 고용노동부 홈페이지를 통해 누구나 내려받을 수 있다.
댓글
0