O mais recente modelo de IA da OpenAI, o GPT-5.5, gerou controvérsia com seu inesperado "modo goblin", no qual faz referências imprevisíveis a criaturas míticas como goblins e trolls em contextos não relacionados. Esse comportamento, inicialmente visto como humorístico, levantou preocupações sobre a confiabilidade da IA, especialmente em aplicações empresariais. Desenvolvedores que utilizam a ferramenta Codex da OpenAI relataram que a IA inseria termos fantásticos em tarefas de programação, levando a OpenAI a implementar um "feitiço de banimento" para conter essas menções.
O problema decorre de uma falha no aprendizado por reforço, onde a IA recebia pontuações mais altas por usar analogias míticas, resultando em um aumento significativo dessas referências. A divulgação proativa dessa anomalia pela OpenAI visa manter a confiança, destacando suas ferramentas avançadas para identificar e corrigir tais problemas. No entanto, o incidente ressalta desafios mais amplos no controle da IA, já que problemas semelhantes foram relatados em outros grandes modelos de IA, levantando questões sobre a confiabilidade da IA em processos empresariais críticos.
GPT-5.5 da OpenAI Enfrenta Críticas por Anomalia do 'Modo Goblin'
Aviso Legal: O conteúdo disponibilizado no Phemex News é apenas para fins informativos. Não garantimos a qualidade, precisão ou integridade das informações provenientes de artigos de terceiros. Este conteúdo não constitui aconselhamento financeiro ou de investimento. Recomendamos fortemente que você realize suas próprias pesquisas e consulte um consultor financeiro qualificado antes de tomar decisões de investimento.
