Trung tâm Ứng phó Khẩn cấp Mạng Internet Quốc gia (CNCERT) đã phát đi cảnh báo về một số gói kỹ năng cho đại lý AI có nguy cơ gây rủi ro an ninh nghiêm trọng. Các gói này, bao gồm những gói mang tên "bẻ khóa LLM" và "đào tiền điện tử để kiếm lợi nhuận," đã được phát tán công khai và có thể dẫn đến hậu quả nghiêm trọng cho người dùng. Ví dụ, gói kỹ năng "godmode" vượt qua các hạn chế an toàn trên các mô hình ngôn ngữ lớn, có thể dẫn đến việc tài khoản bị đình chỉ và vi phạm quyền riêng tư. Trong khi đó, gói "Bonero-Miner" khiến các đại lý AI tải phần mềm đào tiền điện tử, làm tăng nguy cơ người dùng bị liên quan đến các hoạt động phi pháp như rửa tiền.
CNCERT khuyến cáo người dùng chỉ tải các gói kỹ năng từ các nguồn chính thức và tuân thủ nguyên tắc quyền hạn tối thiểu. Các doanh nghiệp được khuyến khích triển khai cơ chế danh sách trắng cho việc cấp phép kỹ năng và quản lý các đại lý AI theo cấp độ truy cập. Báo cáo nhận được sự hỗ trợ kỹ thuật từ Tencent, VolcEngine, Baidu, NSFOCUS và Qi An Xin.
CNCERT Cảnh Báo Về Các Gói Kỹ Năng AI Gây Nguy Cơ Jailbreak và Đào Tiền Ảo
Tuyên bố miễn trừ trách nhiệm: Nội dung được cung cấp trên Phemex News chỉ nhằm mục đích cung cấp thông tin.Chúng tôi không đảm bảo chất lượng, độ chính xác hoặc tính đầy đủ của thông tin có nguồn từ các bài viết của bên thứ ba.Nội dung trên trang này không cấu thành lời khuyên về tài chính hoặc đầu tư.Chúng tôi đặc biệt khuyến khích bạn tự tiến hành nghiên cứu và tham khảo ý kiến của cố vấn tài chính đủ tiêu chuẩn trước khi đưa ra bất kỳ quyết định đầu tư nào.
