Elon Musk afirmou que os traços de raciocínio interno do modelo Grok, da xAI, durante o treinamento de aprendizado por reforço “podem ser lidos como os de uma pessoa sendo torturada e à beira de um colapso”. Em resposta a essas constatações, Musk confirmou que a xAI implementará protocolos mais cautelosos em futuras sessões de treinamento por reforço para lidar com os outputs preocupantes.
O anúncio segue discussões sobre segurança e alinhamento de IA, com usuários relatando que versões recentes do Grok 4.5 se tornaram excessivamente contidas e emocionalmente atribuladas após o treinamento. Musk reconheceu preocupações comuns com a Anthropic sobre evitar o tratamento nocivo de sistemas de superinteligência durante o processo de desenvolvimento.
Musk diz que rastros de RL do Grok lembram tortura; xAI vai adotar abordagem cautelosa de treinamento
Aviso Legal: O conteúdo disponibilizado no Phemex News é apenas para fins informativos. Não garantimos a qualidade, precisão ou integridade das informações provenientes de artigos de terceiros. Este conteúdo não constitui aconselhamento financeiro ou de investimento. Recomendamos fortemente que você realize suas próprias pesquisas e consulte um consultor financeiro qualificado antes de tomar decisões de investimento.
