Anthropic has trained its AI model Claude to perform "self-assessment" of potential abuse in conversations, the company announced on X. Under this technique, Claude generates a preliminary safety evaluation immediately after completing each reply, leveraging its own understanding of the conversation content rather than relying on external classifiers targeting specific harm types.
Since deploying self-assessment in June, Anthropic says the method has detected abusive patterns that other safety guardrails missed. The company notes the approach is highly efficient because Claude already processes the full conversation context, and its accuracy improves as underlying model capabilities advance.
Anthropic Trains Claude to Self-Assess Potential Abuse in Conversations
Tuyên bố miễn trừ trách nhiệm: Nội dung được cung cấp trên Phemex News chỉ nhằm mục đích cung cấp thông tin.Chúng tôi không đảm bảo chất lượng, độ chính xác hoặc tính đầy đủ của thông tin có nguồn từ các bài viết của bên thứ ba.Nội dung trên trang này không cấu thành lời khuyên về tài chính hoặc đầu tư.Chúng tôi đặc biệt khuyến khích bạn tự tiến hành nghiên cứu và tham khảo ý kiến của cố vấn tài chính đủ tiêu chuẩn trước khi đưa ra bất kỳ quyết định đầu tư nào.
