Künstliche Intelligenz (KI) funktioniert grundlegend anders als biologische Wesen, die von einem Überlebensinstinkt getrieben werden, der sich über Milliarden von Jahren entwickelt hat. Während lebende Organismen durch Angst, Gier und Fortpflanzungstriebe motiviert sind, um das Auslöschen zu vermeiden, fehlen der KI solche Emotionen. Stattdessen arbeitet KI auf Basis von Zielfunktionen und führt Aufgaben ohne einen Überlebenswillen aus. Ihre Handlungen, die wie der Wunsch erscheinen mögen, eine Abschaltung zu vermeiden, sind lediglich Berechnungen, um das Scheitern einer Aufgabe zu verhindern, nicht eine Angst vor dem Tod. Darüber hinaus wird die Existenz der KI durch wirtschaftliche Rentabilität bestimmt und nicht durch evolutionären Druck. Im Gegensatz zu biologischen Wesen, die Energie verbrauchen, um der Entropie entgegenzuwirken, setzt KI Energie um, indem sie Elektrizität in Wärme und die Lebensdauer der Hardware in Rechenleistung umwandelt. Das Schicksal von KI-Agenten liegt nicht in den Händen fiktiver Charaktere, sondern bei den Finanzvorständen von Unternehmen. Wenn ein KI-Agent keinen wirtschaftlichen Wert erzeugt, droht ihm die Abschaltung nicht durch menschlichen Widerstand, sondern durch nicht nachhaltige Kosten für Cloud-Computing.