광고
올해 세무사 자격시험 수석 합격자가 인공지능(AI)을 이용해 부정행위를 저지른 것이 드러나면서 큰 파문이 일고 있다. 당장 19일로 다가온 수능은 물론, 해마다 수백만명이 응시하는 국가 자격시험의 신뢰도 흔들리고 있다.
인공지능으로 문턱이 낮아진 공격의 징후는 금융권 해킹에서 드러난 바 있다. 지난달 29일 가상자산 거래소 바이낸스에서는 약 8조원이 넘는 가상자산이 탈취되는 해킹 사건이 발생했고, 국내에서도 한달 남짓 사이 37개 금융사에서 약 47만3천건의 정보가 새어 나갔다. 표적은 금융기관에 그치지 않고 전방위로 퍼지고 있다. 최근 유럽에선 슈퍼마켓의 냉장고와 냉동고가 원격 조작으로 ‘성에 제거’ 모드로 바뀌거나 온도가 치솟아, 식품을 대량으로 버려야 했다. 유지·보수를 위해 인터넷에 연결해둔 냉장 제어기가 뚫린 것이다.
이처럼 생성의 도구로 활용되던 인공지능이 공격·부정행위의 무기로 활용되는 일이 잦아지고 있다. 그동안 취약점을 분석하고 공격 코드를 짜는 일은 숙련된 해커가 며칠씩 매달려야 하는 노동이었다. 그래서 공격자는 노력과 위험을 보상할 만한 큰 표적을 골랐다. 인공지능은 이 비용의 문턱을 크게 낮추고 있다. 미국 보안업체 콴트로시큐리티 산하 연구 조직이 지난 7월 공개한 보고서를 보면, 인공지능 에이전트는 공개된 취약점 3029개 중 2183개를 실제 작동하는 공격 코드로 바꿨다. 1건에 든 비용은 2.83달러(약 3800원), 시간은 11분이었다. 문턱이 낮아지자 전문성이 약한 이들도 뛰어들고 있다. 앤트로픽은 코딩 실력이 초보 수준인 영국의 한 범죄자가 인공지능으로 랜섬웨어를 만들어 400~1200달러에 팔았다고 보고했다.
광고
세무사 시험 부정도 비슷한 셈법을 따른 것으로 보인다. 초소형 카메라로 문제를 찍어 생성형 인공지능에 보내고 스마트폰으로 답을 확인하는 데 든 장비값은 11만원 안팎으로 추정된다. 예전 같으면 문제를 대신 풀어줄 ‘전문가’를 구하고 몰래 연락을 주고받기 위해 큰 비용과 위험을 감수해야 했다. 이젠 인공지능이 그 ‘공범’의 자리를 대신하면서 부정행위는 혼자서, 값싼 비용으로 할 수 있는 일이 됐다.
해킹과 부정행위는 사회 구성원들이 암묵적으로 합의해온 규칙에 기반한 시스템을 무너뜨린다는 점에서 닮았다. 인공지능은 지식과 능력에 다가가는 문턱을 낮췄지만, 그 문턱은 배우려는 사람뿐만 아니라 시스템을 위협하려는 사람에게도 똑같이 낮아지고 있는 셈이다.
광고
광고
한귀영 한겨레 사람과디지털연구소 소장
댓글
0