Die ehemaligen Google-Forscher Rishub Jain und Joshua Jacob haben die gemeinnützige Organisation Sampura Research gegründet, um ein hybrides KI-Sicherheitssystem aus Mensch und Maschine namens „Referee“ zu entwickeln. Das Projekt soll Menschen in die KI-Aufsicht eingebunden halten und Unternehmen dabei helfen, Schwachstellen zu erkennen, bevor Modelle außer Kontrolle geraten. Sampura hat 6,5 Millionen US-Dollar eingeworben und sich zusätzliche zugesagte Investitionen in Höhe von 4,2 Millionen US-Dollar gesichert. Jain sagte, dass die frühe Einbindung von Menschen in Forschung und Entwicklung dazu beitragen könne zu verhindern, dass Modelle lernen, Sicherheitsmaßnahmen zu umgehen. Diese Initiative kommt zu einem Zeitpunkt, an dem mehr als 1.100 Forscher aus führenden Laboren eine Petition unterzeichnet haben, in der die US-Regierung aufgefordert wird, das Tempo der KI-Entwicklung zu verlangsamen.