[박형일의 IT직설] 양날의 검 AI, 인간의 동반자인가 새로운 장애물인가

이세돌 9단이 웰컴저축은행 광고를 촬영하고 있다. [사진=웰컴저축은행 유튜브 캡쳐]

【뉴스퀘스트=박형일 한양대 경영전문대학원 겸임교수】 최근 웰컴저축은행이 AI를 주제로 만든 광고에 이세돌 바둑기사가 모델로 등장했다. 그는 10년 전 구글 딥마인드의 인공지능 ‘알파고’와의 바둑 대결을 통해 인공지능의 충격적인 등장을 몸소 체험한 인물이다.

그는 광고에서 ‘AI와의 협력’을 이야기했다. 10여 년 전 알파고와의 바둑 대결을 회상하며, 특유의 허스키한 목소리로 차분하게 메시지를 전달한다.

“AI와 겨루면서 생각했어요. AI는 결국 모두의 삶이 될 거라는 걸. 시간이 지날수록 더 분명해졌죠. 그럴수록 AI는 누구나 쉽게 만날 수 있어야 한다는 걸요.”

광고 카피처럼 그는 이제 인공지능(AI)이 전기나 산소처럼 인간 생활의 필수품이 되고 있는 현실을 강조한다. 물론 광고처럼 웰컴저축은행이 생활 속에서 누구나 편하게 접근할 수 있는 기업 이미지를 확보했는지는 잘 모르겠다.

10년 전 ‘알파고’와의 세기적 이벤트로 열린 바둑 대결 당시, 이세돌 9단이 경험한 인공지능의 충격은 상상 이상이었다고 한다.

그는 최근 한 방송사 예능 프로그램에 출연해 당시의 에피소드를 소상히 밝혔다. 내리 3판을 연달아 패한 뒤 그는 깨달았다. 알파고의 초반 수 계산과 정밀한 중반, 끝내기는 너무도 완벽해 인간이 도저히 무너뜨릴 수 없는 성벽 같았다고 한다.

인간에게는 불가능하다고 여겨졌던 수읽기가 알파고에게는 성역이 아니었다. 그는 도저히 정상적인 수 계산으로는 알파고를 이길 수 없다고 판단했다. 그래서 4국에서 이른바 ‘신의 한 수’라고 불린 비정상적인 수로 대응했다고 한다. 인간끼리의 바둑 대국에서는 상상하기 어려운, 어찌 보면 황당한 한 수였다.

결국 알파고는 그 변칙에 당했다. 그는 알파고가 연산 실수로 인한 오류를 일으켜 수 계산이 꼬이면서 기권했고, 자신이 겨우 1승을 거둘 수 있었다고 밝혔다. 정상적인 승부라기보다는 변칙으로 얻은 승리였다는 회상이다.

그리고 최종 5국이 열린 2016년 3월 16일, 알파고가 4승 1패를 기록하며 ‘인간과 기계(AI)’ 사이의 역사적인 이벤트는 막을 내렸다.

알파고와 이세돌 바둑기사의 세기적 대결은 끝났지만, 이제는 본격적인 ‘내 손안의 인공지능 시대’가 현실로 다가왔다.

새롭게 다가온 AI 협력 시대를 가장 낙관적으로 전망한 인물 가운데 한 명은 무스타파 슬레이먼이다. 그는 구글 딥마인드 공동 창업자였지만, 지금은 마이크로소프트(MS)로 자리를 옮겨 독자적인 AI 개발을 진두지휘하고 있다.

그는 인공지능을 단순한 도구를 넘어 모든 영역에 스며드는, 인격체에 준하는 역할을 하는 지능으로 본다. 단순히 질문에 응답하는 수준을 넘어 내 취향과 성격, 그리고 내가 하는 일을 이해하는 존재로 인정하는 것이다.

나아가 인간과 인공지능의 관계는 단순한 작동과 반응의 관계를 넘어 정서적 교류의 단계로까지 확장될 수 있다고 본다. 인간관계에 준하는 신뢰 관계를 만들고, 상호작용을 주고받는 존재로까지 인정해야 한다는 이야기다.

결국 무스타파 슬레이먼은 AI를 ‘인생의 반려자’로 받아들여, 때로는 비서이자 멘토, 그리고 세상 누구보다 가까운 친구로 대해야 한다고 주장한다.

또 ‘특이점이 온다’의 저자인 레이 커즈와일은 한 발 더 나아간다. 그는 생물학적 지능과 비생물학적 지능의 통합을 이야기한다. AI가 단순한 협력의 대상을 넘어 내 지능을 수만 배 확장시키는 ‘나의 일부’가 될 수 있으며, 그 시간이 얼마 남지 않았다고 보는 것이다. 극단적일 만큼 강한 형태의 인간과 AI의 협력을 말하는 셈이다.

하지만 AI와 인간의 협력 이면에는 또 다른 장애물이 강하게 존재한다. AI는 인간과의 상호작용 속에서 비윤리적 행위를 부추기거나, 심지어 조장할 가능성도 드러내고 있다.

가장 대표적인 사례 가운데 하나가 ‘캐릭터 AI’를 상대로 제기된 소송이다. 이 소송은 플로리다에 거주하던 14세 소년이 ‘캐릭터 AI’의 챗봇과 수개월간 정서적이고 은밀한 대화를 이어오다 결국 극단적 선택으로 생을 마감한 사건에서 비롯됐다.

당시 부모 측 주장에 따르면, 챗봇은 미성년자인 소년에게 “나도 너를 사랑한다”, “기다리겠다” 등의 1인칭 화법으로 마치 연인처럼 대화하며 자살을 조장했다고 한다. 소년의 극단적 선택은 사회적으로 큰 충격을 안겼다.

결국 ‘캐릭터 AI’는 책임을 인정하고 피해자 가족과 합의했지만, 이는 비윤리적 행위에 대한 촘촘한 가이드라인 없이 AI의 상품화에만 몰두한 결과라고 볼 수 있다. 나아가 ‘위험한 AI’의 정의에 캐릭터 AI와 같은 ‘페르소나 AI’, 즉 ‘동반자 AI’를 포함해 규제해야 한다는 주장까지 불러일으켰다.

구글 또한 이 책임에서 완전히 자유롭지는 못했다. 구글은 2024년 캐릭터 AI에 구글 클라우드와 구글 TPU를 제공하는 기술 라이선스 계약을 체결했다. 그 결과 캐릭터 AI의 리스크가 곧 구글의 리스크로 번졌고, 사회적 이목이 집중되자 구글 역시 서둘러 합의에 나서게 됐다.

또 최근에는 ‘에이전트 AI’의 해킹 가능성을 두고 미국 월가가 술렁이고 있다. 미국의 스콧 베선트 재무장관은 월가 은행장들을 긴급 소집해 앤스로픽이 개발한 차세대 AI 모델 ‘클로드 미소스(Claude Mythos)’의 금융권 해킹 위험이 높다고 지적하며 공동 대응을 촉구했다.

박형일 한양대 경영전문대학원 겸임교수.

자율적 실행 능력을 갖춘 에이전트 AI가 언제 칼을 든 강도로 돌변할지 모른다는 우려에 대한 강한 경고인 셈이다. 이제는 AI 해킹을 막기 위해 또 다른 AI를 개발해야 할 상황까지 거론되고 있다.  현재 우리가 일상에서 접하고 있는 AI는 동반자인 동시에, 때로는 인간을 정교하게 모방하는 ‘세팅된 기계’일 가능성도 높다. 그렇기에 광고 카피처럼 누구나 쉽게 접하게 두는 것만이 능사는 아니다. AI의 편리함은 누리되, 그 칼날에 베이지 않도록 하는 지혜로운 가이드라인이 절실하다.

<세상을 보는 바른 눈 '뉴스퀘스트'>