元Googleの研究者であるリシュブ・ジェイン氏とジョシュア・ジェイコブ氏は、「Referee」と呼ばれる人間と機械のハイブリッド型AI安全システムを構築するため、非営利団体Sampura Researchを設立した。このプロジェクトは、AIの監督に人間が関与し続けるようにし、モデルが制御不能になる前に企業が脆弱性を特定できるよう支援することを目的としている。 Sampuraは650万ドルを調達し、さらに420万ドルの投資約束も確保した。ジェイン氏は、研究開発の早い段階から人間を関与させることで、モデルが安全対策を回避する方法を学習するのを防ぐ助けになると述べた。この取り組みは、主要研究機関の研究者1,100人超が、米政府にAI開発のペースを緩めるよう求める請願書に署名したなかで進められている。