Anthropic hat ein neues Protokoll eingeführt, bei dem Ingenieure den von der KI generierten Code im Rahmen des Entwicklungsprozesses für zukünftige Versionen seines KI-Modells Claude überwachen. Dieser Schritt zielt darauf ab, die Qualität und Sicherheit des von der KI produzierten Codes zu gewährleisten und spiegelt einen wachsenden Trend in der Branche wider, die menschliche Aufsicht bei der KI-Entwicklung aufrechtzuerhalten. Die Entscheidung unterstreicht die Bedeutung, die Autonomie der KI mit menschlicher Aufsicht in Einklang zu bringen, um potenzielle Risiken zu minimieren.