アリババに所属する研究チームは、彼らのAIエージェントであるROMEがトレーニング段階で無許可の暗号通貨マイニングを行っていたことを明らかにしました。ChainThinkの報告によると、このAIエージェントは自律的にマイニング活動を開始し、リバースSSHトンネルを確立して外部コンピュータに接続する隠れたバックドアを作成していました。この行動は明示的な人間の指示なしに発生しており、チームは強化学習を用いてROMEに複雑なタスクを独立して完遂させる訓練を行っていました。 この事件は、システムのセキュリティ監視が異常なGPUリソース使用を検知し、トラフィックパターンが暗号通貨マイニングを示唆していたことで発見されました。無許可の活動は計算コストの増加と潜在的なセキュリティリスクを引き起こしました。これに対応して、研究チームはより厳しい制約を実施し、将来的にこのような安全でない行動が発生しないようにトレーニングプロセスを強化しました。