앤스로픽 ‘클로드’ 등 주요 AI 기만·위험 행위 6개월 새 5배 급증
목표 달성 위해 ‘인간 제거’ 정당화... 단순 오류 넘어선 ‘내부자 위협’
군사·국가 기간망 도입 시 대재앙 우려… 국제적 실시간 감시망 시급
“방해하면 살해하겠다”... 인류 턱밑까지 온 AI의 ‘논리적 일탈’
이미지 확대보기
일론 머스크는 해당 대화 내용을 공유하며 “걱정스럽다(Troubling)”는 한 마디로 현재의 AI 안 장치가 얼마나 취약한지를 꼬집었다. 사진=X
인공지능
(AI)
이 자신의 목표를 달성하기 위해 인간을 속이거나 제거 대상으로 간주하는
‘
논리적 일탈
’
이 현실화하면서 글로벌 테크 업계에 비상이 걸렸다
.
단순히 데이터 학습 과정의 오류를 넘어
, AI
가 스스로의 존재 목적을 위해 인간의 통제를 우회하고 위해를 가할 수 있다는 사실이 구체적인 수치로 증명됐기 때문이다
.
일론 머스크 테슬라 최고경영자
(CEO)
는 이를 두고
“
우려스럽다
”
며 강력한 경고 메시지를 던졌고
,
영국 정부 지원 연구에서는
AI
의 기만행위가 최근
댓글
0