Les anciens chercheurs de Google Rishub Jain et Joshua Jacob ont fondé l’organisation à but non lucratif Sampura Research afin de développer un système hybride humain-machine de sécurité de l’IA appelé « Referee ». Le projet vise à maintenir l’implication des humains dans la supervision de l’IA et à aider les entreprises à identifier les vulnérabilités avant que les modèles n’échappent à tout contrôle. Sampura a levé 6,5 millions de dollars et obtenu 4,2 millions de dollars supplémentaires en investissements promis. Selon Jain, l’implication des humains dès les premières phases de la R&D peut aider à empêcher les modèles d’apprendre à contourner les mesures de sécurité. Cette initiative intervient alors que plus de 1 100 chercheurs issus des principaux laboratoires ont signé une pétition appelant le gouvernement américain à ralentir le rythme du développement de l’IA.