Os ex-pesquisadores do Google Rishub Jain e Joshua Jacob fundaram a organização sem fins lucrativos Sampura Research para desenvolver um sistema híbrido de segurança em IA, combinando humanos e máquinas, chamado “Referee”. O projeto foi concebido para manter os humanos envolvidos na supervisão da IA e ajudar empresas a identificar vulnerabilidades antes que os modelos saiam do controle. A Sampura arrecadou US$ 6,5 milhões e garantiu mais US$ 4,2 milhões em investimentos prometidos. Jain afirmou que envolver humanos desde o início em P&D pode ajudar a impedir que os modelos aprendam a contornar medidas de segurança. A iniciativa surge no momento em que mais de 1.100 pesquisadores dos principais laboratórios assinaram uma petição pedindo ao governo dos EUA que reduza o ritmo do desenvolvimento da IA.