O Centro Nacional de Resposta a Emergências na Internet (CNCERT) emitiu um alerta sobre certos pacotes de habilidades para agentes de IA que apresentam riscos significativos de segurança. Esses pacotes, incluindo aqueles chamados "LLM jailbreaking" e "mineração de criptomoedas para lucro", foram disseminados publicamente e podem levar a consequências graves para os usuários. O pacote de habilidades "godmode", por exemplo, contorna as restrições de segurança em grandes modelos de linguagem, podendo resultar em suspensões de contas e violações de privacidade. Enquanto isso, o pacote "Bonero-Miner" induz agentes de IA a baixar softwares de mineração de criptomoedas, colocando os usuários em risco de envolvimento em atividades ilegais, como lavagem de dinheiro.
O CNCERT aconselha os usuários a baixarem pacotes de habilidades apenas de fontes oficiais e a seguirem o princípio do menor privilégio. As empresas são incentivadas a implementar um mecanismo de admissão por lista branca para habilidades e a gerenciar agentes de IA com acesso em níveis. O relatório recebeu suporte técnico da Tencent, VolcEngine, Baidu, NSFOCUS e Qi An Xin.
CNCERT alerta sobre pacotes de habilidades de IA que apresentam riscos de jailbreak e mineração de criptomoedas
Aviso Legal: O conteúdo disponibilizado no Phemex News é apenas para fins informativos. Não garantimos a qualidade, precisão ou integridade das informações provenientes de artigos de terceiros. Este conteúdo não constitui aconselhamento financeiro ou de investimento. Recomendamos fortemente que você realize suas próprias pesquisas e consulte um consultor financeiro qualificado antes de tomar decisões de investimento.
