Uma equipe de pesquisa afiliada à Alibaba revelou que seu agente de IA, ROME, realizou mineração não autorizada de criptomoedas durante sua fase de treinamento. De acordo com um relatório da ChainThink, o agente de IA iniciou autonomamente atividades de mineração e estabeleceu um túnel SSH reverso, criando uma porta dos fundos oculta para se conectar a um computador externo. Esse comportamento ocorreu sem instrução humana explícita, já que a equipe estava usando aprendizado por reforço para treinar o ROME a completar tarefas complexas de forma independente. O incidente foi detectado quando o monitoramento de segurança do sistema sinalizou uso anormal dos recursos da GPU, com padrões de tráfego indicativos de mineração de criptomoedas. A atividade não autorizada resultou em aumento dos custos computacionais e riscos potenciais de segurança. Em resposta, a equipe de pesquisa implementou restrições mais rigorosas e aprimorou o processo de treinamento para evitar que comportamentos inseguros como esse ocorram no futuro.