Компания Anthropic внедрила новый протокол, согласно которому инженеры контролируют код, сгенерированный искусственным интеллектом, в рамках процесса разработки будущих версий своей модели ИИ под названием Claude. Эта мера направлена на обеспечение качества и безопасности кода, создаваемого ИИ, отражая растущую тенденцию в отрасли сохранять человеческий контроль при разработке ИИ. Это решение подчеркивает важность баланса между автономностью ИИ и человеческим надзором для снижения потенциальных рисков.