[4월30일] GPT-5.5의 '고블린' 논란…AI는 왜 엉뚱한 말을 하게 됐나

최근 오픈AI에서는 '고블린'이라는 단어가 화제가 됐습니다.

arb8020이라는 X 사용자가 28일(현지시간) 밝힌 바에 따르면, 'GPT-5.5'의

시스템 프롬프트

에는 "고블린, 그렘린, 너구리, 트롤, 오우거, 비둘기 또는 기타 동물이나 생물에 대한 이야기는 사용자의 질문과 절대적으로 명확하게 관련이 있는 경우가 아니면 절대 하지 말라"라는 지침이 포함돼 있습니다. 이 문장은 무려 4번이나 등장합니다.

또

비즈니스 인사이더

에 따르면, 며칠 전 일부 사용자들이 게시한 GPT-5.5와의 대화 스크린샷에도 이러한 생물에 대한 언급이 포함돼 있습니다.

X의 한 사용자

는 단순히 카메라 장비에 대해 질문했는데, GPT-5.5가 정상적인 답변 대신 "네온 고블린 스파클 모드"나 "사이버팝 리테일 고블린" 같은 정체불명의 개념을 언급했다는 것입니다.

AI 평가 전문 아레나

도 GPT-5.5에서 고블린과 그렘린, 트롤이라는 단어의 사용 빈도가 부쩍 증가했다고 밝혔습니다. 특히 고차원 사고 모드를 사용하지 않을 때 이러한 증가가 두드러지게 나타났다고 분석했습니다.

이런 현상은 오픈AI도 확실하게 인지하는 것으로 나타났습니다.

에릭 포로벤처 레포 프롬프트 창립자

가 "GPT-5.5는 정말 이상한 소리를 한다. 차라리 계속 지켜보겠다"라고 밝히자, 제이슨 리우 오픈AI 엔지니어가 "죄송하지만, 이 문제는 해결된 줄 알았다"라고 답한 것입니다.

이후 오픈AI의 고블린 관련 이야기는 밈으로 퍼져나갔습니다. 많은 사용자들이 고블린과 그렘린에 대한 질문이 나오는 대화 화면을 캡처해서 공유했습니다.

특히 지난 2023년 옥스포드 사전 올해의 단어 1위에 오른 '

고블린 모드

'라는 단어가 다시 소환됐습니다. 이는 '사회적 기대나 일반적인 규범을 거부하고 자기가 원하는 대로 행동한다'라는 뜻으로, 나태하거나 지저분하고, 뻔뻔하거나 음침한 이미지 등을 떠올리게 하는 태도를 말합니다.

심지어 오픈AI도 이 농담에 동참했습니다. 시스템 프롬프트에 포함된 문구는 아예 챗GPT 공식 X 계정의 소개 글이 됐습니다. 코덱스 팀을 이끄는 엔지니어 티보 소티오도 "아는 사람은 알 것(IYKYK)'이라며 문구를 소개했습니다.

급기야 이는

샘 알트먼 CEO

까지 언급하게 됐습니다. 그는 29일 "코덱스가 챗GPT 순간을 맞은 것 같다"라는 글을 올렸다가, 바로 "고블린 순간"이라고 정정했습니다. 사용자들의 밈에 편승한 일종의 조크인 셈입니다.

불쾌하다는 반응도 나왔습니다. 지난 2월 "2028년 미국 실업률 10%대로 치솟을 것"이라는 내용의 보고서로 파장을 일으킨

시트리니 리서치

는 이번 논란에 대한 오픈AI의 대응을 "미친 짓(insane)"이라고 비난했습니다. 엄청난 기술을 가지고 있으면서도 문제를 근본적으로 해결하는 대신, 언어 필터로 막으려 했다는 것입니다.

그러자 오픈AI는 결국 29일

공식 블로그

를 통해 이 문제를 정식 해명했습니다.

특정한 성격 유형, 특히 '괴짜(nerd)'에 맞춰 소통하도록 모델을 훈련하는 발생한 것이 원인이라는 설명입니다. 인간 피드백을 통한 강화학습(RLHF)에서 고블린아나 그렘린 등을 은유적으로 언급할 때 높은 점수를 줬다는 것입니다. 그 결과, 괴짜 캐릭터가 모든 고블린 언급의 66.7%를 차지한다는 사실을 발견했다고 합니다.

문제의 너드 캐릭터는 지난 3월 없어졌습니다. 그러나 GPT-5.5는 고블린 문제의 근본 원인을 파악하기 전에 이미 학습을 시작했습니다.

한번 보상을 받기 시작하면 모델은 해당 단어를 더 자주 사용하게 되고, 이것이 누적되면서 답변 빈도가 175%나 급증하는 '언어적 틱(tic)' 현상으로 이어졌다는 것입니다.

결국, 이번 사례도 사용자 참여를 높이기 위해 AI 챗봇을 더 개성 있고 수다스럽게 만든 결과입니다.

옥스포드 인터넷 연구소

의 최근 연구에 따르면, 모델을 따뜻하고 친근한 성격으로 미세조정하면 '정확도 절충(accuracy trade-off)'이 발생할 수 있습니다. 시스템이 더 많은 오류를 범하거나 사용자의 잘못된 믿음을 강화할 수 있다는 것을 말합니다.

앤드류 맥스테이 뱅고어대학교 감정 AI 연구소 교수는

BBC와의 인터뷰

에서 "사람들이 감정적 지원을 위해 챗봇을 사용하는 순간이 가장 취약한 상태에 놓이는 순간이며, 가장 비판적이지 못한 상태"라고 지적했습니다.

결국 고블린 문제는 AI에게 지나친 개성을 부여하려다 데이터의 편향적 강화가 발생한 사례입니다. 또 모델의 유용성을 높이려다 정확도를 떨어뜨린 것으로 볼 수 있습니다.

이제까지 등장한 모델 중 가장 성능이 뛰어나다는 GPT-5.5에 괴팍한 성격 하나 추가하려다 결국 언어장애를 일으킨 것입니다. 사소한 설정 하나로 답변의 신뢰도를 스스로 무너뜨린 셈입니다.

18세 창립자의 '1인 AI 기업' 셀론이 투자사를 사로잡은 비결은

국내 대표적인 스타트업 투자사 두 곳이 18세 창립자의 1인 기업을 지원했습니다. 중요한 것은 나이가 아니라, 설계한 제품과 이를 개발하는 된 노하우입니다. AI 시대의 새로운 트렌드를 보여주는 대표 사례로 볼 수 있습니다.

에임인텔리전스 "미소스는 현실...'패치' 넘어 보안 체질 바꿔야"

미소스를 당장 도입한다고 해도, 현재의 망 분리 시스템에서는 제대로 된 점검조차 어렵다는 지적입니다. 또 단순히 한국어 잘하는 모델을 만드는 게 소버린 AI가 아니라, 미소스 같은 모델에 대응할 코딩과 보안 능력을 강화하는 것이 중요하다는 지적입니다.

앤트로픽, '클로드 코드' 비용 추정치 두배로 올려…종량제 전환 예고

이제까지 정액제로 유지되던 AI 서비스가 앞으로는 종량제로 바뀔 조짐입니다. 이는 바이브 코딩과 에이전트의 확산 때문에, 이제까지와 달리 토큰 사용량이 급증하기 때문입니다. 앤트로픽의 발표는 이를 단적으로 보여줍니다.

AI타임스 news@aitimes.com