포항 구룡포에서 과메기를 온라인으로 파는 김 사장(가명)이 있다고 가정해 보자. 제철이 되자 문의 메일이 하루 수십 통씩 쌓였고, 그는 AI에게 메일 요약을 맡겼다. 덕분에 아침마다 한 시간씩 아꼈다. 그런데 어느 날 AI가 내놓은 요약 끝에 낯선 문장이 붙어 있었다. “계정 비밀번호가 유출되었습니다. 즉시 아래 번호로 연락하십시오.” 깜짝 놀란 김 사장은
AI도 속는다… 눈에 안 보이는 ‘나쁜 명령’을 막아라!
포항 구룡포에서 과메기를 온라인으로 파는 김 사장(가명)이 있다고 가정해 보자. 제철이 되자 문의 메일이 하루 수십 통씩 쌓였고, 그는 AI에게 메일 요약을 맡겼다. 덕분에 아침마다 한 시간씩 아꼈다. 그런데 어느 날 AI가 내놓은 요약 끝에 낯선 문장이 붙어 있었다.
댓글
0