전 구글 연구원 리슈브 자인과 조슈아 제이컵은 ‘Referee’라는 인간-기계 하이브리드 AI 안전 시스템을 구축하기 위해 비영리 단체 샘푸라 리서치를 설립했다. 이 프로젝트는 AI 감독 과정에 인간이 계속 참여하도록 하고, 모델이 통제 불능 상태에 빠지기 전에 기업들이 취약점을 식별할 수 있도록 돕기 위해 설계됐다. 샘푸라는 650만 달러를 조달했으며, 추가로 420만 달러의 투자 약정도 확보했다. 자인은 연구개발 초기 단계부터 인간을 참여시키는 것이 모델이 안전 장치를 우회하는 방법을 학습하는 것을 막는 데 도움이 될 수 있다고 말했다. 이번 움직임은 주요 연구소 소속 연구원 1,100명 이상이 미국 정부에 AI 개발 속도를 늦출 것을 촉구하는 청원서에 서명한 가운데 나왔다.