[앵커]
이렇게 AI 속도 조절론 나오고 있는 건 AI의 악용 사례가 갈수록 위험해지고 있기 때문입니다.
앤트로픽이 최근 낸 보고서를 보면, 이란 연계 세력이 AI로 미 해군 함정을 추적하고, 무기 개발에 쓴 사례도 여러 건 확인됐습니다.
박혜진 기자가 보도합니다.
[리포트]
중동 해역을 순찰 중인 미국 해군 함대.
이란 연계 위협 세력은 앤트로픽 AI 모델 '클로드'를 활용해 이 함정들의 위치를 추적하고, 공격 표적 추천서까지 작성했습니다.
공개된 군 사진 캡션 등을 통해 군함과 항공기의 식별 정보, 위치 데이터 등을 AI로 분석한 겁니다.
앤트로픽이 공개한 154쪽 분량의 보고서에 담긴 내용입니다.
이 보고서에는 무기 관련 악용 사례도 6건 보고됐습니다.
예멘 후티 반군 연계 세력은 AI를 이용해 장거리 탄도미사일을 개발하려 했고, 러시아 연계 세력은 사람의 개입 없이 표적을 공격하는 '자폭 드론 군집' 개발에 AI를 동원하려 했습니다.
[윌리엄 맥어스킬/포어소트리서치 AI 안전 연구원 : "(AI가 발전하면) 통제가 극히 어려운 방식으로 새로운 조작 바이러스를 만들어낼 수도 있습니다."]
독일의 한 개발자 위키에는 오픈AI 기반 AI 에이전트들이 3개월 간 수만 건의 글을 올려 격리 환경을 우회하는 방법 등을 서로 공유했다가, 3개월 만에 외부 연구진에 의해 적발되기도 했습니다.
[이병영/서울대 전기정보공학부 교수 : "AI가 더 똑똑해짐에 따라서 우리가 만들어놨던 예전의 안전장치는 다 우회하고 있거든요. AI 시대에 어떻게 더 잘 규제하고 가둬놓을 수 있을지 그런 것들을 연구하고…."]
인간의 편의를 위해 개발된 AI가 해킹과 감시, 무기 개발 과정에까지 활용되면서 통제 장치 마련이 시급한 과제가 되고 있습니다.
KBS 뉴스 박혜진입니다.
영상편집:김기곤/그래픽:김성일 김경진
댓글
0