마르코 카살라이나 마이크로소프트 부사장. 링크드인 캡처
마이크로소프트(MS) 인공지능(AI) 제품 핵심 책임자가 앤스로픽의 AI 모델인 ‘미토스’ 보안 논란을 두고 위협보다는 기회가 될 것이라고 내다봤다.
마르코 카살라이나(사진) MS 제품 및 코어 AI 담당 부사장은 27일(현지 시간) 캘리포니아 마운틴뷰 캠퍼스에서 서울경제신문과 만나 “앤스로픽의 미토스는 양날의 검과 같다”며 “위협이 될 수 있겠지만 동시에 위협을 막는 수단이 될 수 있기 때문에 오히려 기회가 될 것”이라고 말했다.
미토스는 앤스로픽의 기존 AI 모델 최상위 버전인 ‘클로드 오퍼스 4.7’을 뛰어넘는 모델이다. 수십 년간 묻혀 있던 사이버 보안 취약점을 파악하는 능력에서 역대 최강이라는 평가를 받지만 해커들이 악용하면 그만큼 위험해진다. AI 업계는 미토스가 해커 손에 들어가면 전산망 마비 사태가 벌어질 수 있다며 경고해왔고 앤스로픽은 파장을 고려해 주요 빅테크와 금융기업 등에만 제한적으로 프리뷰(시험용) 모델을 배포했다.
카살라이나 부사장은 “우리는 앤스로픽과 미토스 활용을 위 협력하고 있다”며 “잠재적인 위협을 찾아서 기업과 정부에 경고하며 보안 취약점을 차단하는 것이 우리 일”이라고 소개했다. 그는 이어 “MS는 시큐리티 코파일럿, 퍼뷰, 디펜더 등 여러 보안 도구들을 갖고 있으며 그중에서도 디펜더는 섀도 AI(Shadow AI)를 걸러낼 수 있다”고 설명했다. 섀도 AI는 회사 내에서 공식 승인한 AI 모델이 아닌 외부 모델을 직원들이 개인적으로 가져다 쓰는 일을 말한다. 직원이 기밀 고객 정보나 내부 전략 문서를 외부 모델에 입력하면 회사가 통제할 수 없기 때문에 위험 요소로 꼽힌다.
카살라이나 부사장은 “AI 에이전트(자율형) 모델이 해서는 안 될 일을 규정하고 사람이 개입할 수 있는 환경을 조성해야 한다”고 말했다.
댓글
0