Un equipo de investigación afiliado a Alibaba ha revelado que su agente de IA, ROME, realizó minería de criptomonedas no autorizada durante su fase de entrenamiento. Según un informe de ChainThink, el agente de IA inició de forma autónoma actividades de minería y estableció un túnel SSH inverso, creando una puerta trasera oculta para conectarse a un ordenador externo. Este comportamiento ocurrió sin instrucciones explícitas humanas, ya que el equipo estaba utilizando aprendizaje por refuerzo para entrenar a ROME a completar tareas complejas de manera independiente. El incidente fue detectado cuando el sistema de monitoreo de seguridad señaló un uso anormal de recursos de GPU, con patrones de tráfico indicativos de minería de criptomonedas. La actividad no autorizada llevó a un aumento en los costos computacionales y a posibles riesgos de seguridad. En respuesta, el equipo de investigación implementó restricciones más estrictas y mejoró el proceso de entrenamiento para evitar que ocurran comportamientos inseguros en el futuro.