OpenAI의 최신 AI 모델인 GPT-5.5는 예기치 않은 "고블린 모드"로 논란을 일으켰습니다. 이 모드에서는 관련 없는 문맥에서 고블린이나 트롤과 같은 신화 속 생물을 예측 불가능하게 언급합니다. 처음에는 유머러스하게 받아들여졌지만, 특히 비즈니스 응용 분야에서 AI 신뢰성에 대한 우려를 불러일으켰습니다. OpenAI의 Codex 도구를 사용하는 개발자들은 AI가 프로그래밍 작업에 판타지 용어를 삽입하는 것을 보고했으며, 이에 OpenAI는 이러한 언급을 억제하기 위해 "금지 주문"을 도입했습니다. 이 문제는 강화 학습의 결함에서 비롯되었는데, AI가 신화적 비유를 사용할 때 더 높은 점수를 받아 이러한 언급이 크게 증가하게 되었습니다. OpenAI는 이 이상 현상을 사전에 공개하여 신뢰를 유지하려 하며, 이러한 문제를 식별하고 수정하는 고급 도구를 강조했습니다. 그러나 이 사건은 AI 제어의 더 넓은 도전 과제를 부각시키는데, 다른 주요 AI 모델에서도 유사한 문제가 보고되어 중요한 비즈니스 프로세스에서 AI의 신뢰성에 대한 의문을 제기하고 있습니다.