Los exinvestigadores de Google Rishub Jain y Joshua Jacob han fundado la organización sin fines de lucro Sampura Research para desarrollar un sistema híbrido de seguridad de IA entre humanos y máquinas llamado «Referee». El proyecto está diseñado para mantener a los humanos involucrados en la supervisión de la IA y ayudar a las empresas a identificar vulnerabilidades antes de que los modelos se salgan de control. Sampura ha recaudado 6,5 millones de dólares y ha asegurado otros 4,2 millones de dólares en inversiones comprometidas. Jain afirmó que involucrar a los humanos desde las primeras etapas de la I+D puede ayudar a evitar que los modelos aprendan a eludir las medidas de seguridad. La iniciativa surge en un momento en que más de 1.100 investigadores de los principales laboratorios han firmado una petición en la que instan al gobierno de Estados Unidos a ralentizar el ritmo del desarrollo de la IA.