OpenAI hat die Einstellung eines Leiters für Notfallvorsorge angekündigt, um die mit fortschrittlichen KI-Modellen verbundenen Risiken anzugehen. CEO Sam Altman hob die "echten Herausforderungen" hervor, die diese Modelle mit sich bringen, darunter Bedenken hinsichtlich kontrafaktischen Denkens (CFT) und potenzieller Auswirkungen auf Liquidität und Kryptowährungsmärkte. Die neue Position wird sich darauf konzentrieren, die fortschrittlichen KI-Fähigkeiten zu überwachen, die zu erheblichen Schäden führen könnten. Dieser Schritt folgt auf die jüngste Umstrukturierung des Sicherheitsteams von OpenAI und die Aktualisierung der Sicherheitsanforderungen als Reaktion auf risikoreiche Modelle von Wettbewerbern. Das Unternehmen ergreift proaktive Maßnahmen, um sicherzustellen, dass seine KI-Entwicklungen die globalen Märkte oder die Sicherheit nicht negativ beeinflussen.