Бывшие исследователи Google Ришуб Джайн и Джошуа Джейкоб основали некоммерческую организацию Sampura Research, чтобы создать гибридную человеко-машинную систему безопасности ИИ под названием «Referee». Проект призван сохранить участие людей в надзоре за ИИ и помочь компаниям выявлять уязвимости до того, как модели выйдут из-под контроля. Sampura привлекла 6,5 млн долларов и обеспечила ещё 4,2 млн долларов в виде обещанных инвестиций. По словам Джайна, участие людей на ранних этапах исследований и разработок может помочь предотвратить обучение моделей обходу мер безопасности. Эта инициатива появляется на фоне того, что более 1 100 исследователей из ведущих лабораторий подписали петицию с призывом к правительству США замедлить темпы развития ИИ.