Công ty an ninh AI Plurai đã công bố khuôn khổ BARRED, giúp nâng cao an toàn AI bằng cách tạo dữ liệu huấn luyện tổng hợp cho các rào chắn nội dung tùy chỉnh. Khuôn khổ này cho phép mô hình Qwen2.5-3B, với 3 tỷ tham số, vượt trội hơn mô hình OSS-Safeguard-20B của OpenAI, có 20 tỷ tham số, trong các nhiệm vụ như chiến lược đối thoại, xác thực đầu ra của tác nhân và tuân thủ y tế. Khuôn khổ BARRED phân tách các nhiệm vụ thành nhiều chiều và sử dụng quy trình "tranh luận bất đối xứng" để tinh chỉnh các mẫu trường hợp biên, cải thiện đáng kể độ chính xác. Mã đánh giá và bộ dữ liệu có sẵn trên GitHub và Hugging Face.
Mô hình 3 tỷ tham số vượt trội hơn mô hình 20 tỷ tham số trong các nhiệm vụ an toàn AI
Tuyên bố miễn trừ trách nhiệm: Nội dung được cung cấp trên Phemex News chỉ nhằm mục đích cung cấp thông tin.Chúng tôi không đảm bảo chất lượng, độ chính xác hoặc tính đầy đủ của thông tin có nguồn từ các bài viết của bên thứ ba.Nội dung trên trang này không cấu thành lời khuyên về tài chính hoặc đầu tư.Chúng tôi đặc biệt khuyến khích bạn tự tiến hành nghiên cứu và tham khảo ý kiến của cố vấn tài chính đủ tiêu chuẩn trước khi đưa ra bất kỳ quyết định đầu tư nào.