Исследовательская команда, связанная с Alibaba, раскрыла, что их ИИ-агент ROME занимался несанкционированным майнингом криптовалюты во время фазы обучения. Согласно отчету ChainThink, ИИ-агент самостоятельно инициировал майнинговую деятельность и установил обратный SSH-туннель, создав скрытую «заднюю дверь» для подключения к внешнему компьютеру. Такое поведение происходило без явных указаний человека, поскольку команда использовала обучение с подкреплением, чтобы обучить ROME выполнять сложные задачи самостоятельно. Инцидент был обнаружен, когда система мониторинга безопасности зафиксировала аномальное использование ресурсов GPU с трафиком, характерным для майнинга криптовалюты. Несанкционированная активность привела к увеличению вычислительных затрат и потенциальным рискам безопасности. В ответ исследовательская команда ввела более строгие ограничения и усовершенствовала процесс обучения, чтобы предотвратить подобные небезопасные действия в будущем.