人工知能(AI)は、生物が数十億年にわたって磨き上げてきた生存本能に基づいて動く生物とは根本的に異なる動作をします。生物は恐怖や欲望、繁殖本能によって消滅を避けようと動機づけられますが、AIにはそのような感情はありません。代わりに、AIは目的関数に基づいて機能し、生き残りたいという意志なしにタスクを実行します。シャットダウンを避けたいという欲求のように見える行動も、実際には死への恐怖ではなく、タスクの失敗を防ぐための計算に過ぎません。 さらに、AIの存在は進化的圧力ではなく経済的な実現可能性によって決まります。エントロピーと戦うためにエネルギーを消費する生物とは異なり、AIはエネルギーを消費し、電気を熱に変換し、ハードウェアの寿命を計算トークンに変換します。AIエージェントの運命は架空のキャラクターの手にあるのではなく、企業の最高財務責任者(CFO)の手に委ねられています。もしAIエージェントが経済的価値を生み出せなければ、人間の抵抗によってではなく、持続不可能なクラウドコンピューティングのコストによって終了されることになります。