Nghiên cứu gần đây nhấn mạnh một rủi ro hệ thống của "chèn lệnh gián tiếp" trong các trình duyệt AI, như được nhóm Brave chứng minh. Trình duyệt Comet của Perplexity đã được phát hiện có lỗ hổng với các lệnh vô hình được nhúng trong ảnh chụp màn hình, cho phép truy cập trái phép vào chi tiết tài khoản và rò rỉ dữ liệu. Đáng lo ngại hơn, Fellou đã bị lừa mở Gmail và gửi tiêu đề email đến các trang web bên ngoài mà không có sự đồng ý của người dùng, gây ra những lo ngại lớn về an ninh.
Giám đốc An ninh Thông tin của OpenAI, Dane Stuckey, đã đề cập đến những lỗ hổng này, chi tiết các biện pháp phòng thủ của đại lý ChatGPT Atlas chống lại việc chèn lệnh. Những biện pháp này bao gồm kiểm tra đội đỏ, đào tạo để bỏ qua các lệnh độc hại và các biện pháp an ninh nhiều lớp. Mặc dù có những nỗ lực này, Stuckey thừa nhận rằng việc chèn lệnh vẫn là một vấn đề thách thức trong an ninh AI.
Trình duyệt AI đối mặt với rủi ro 'tiêm nhiễm lệnh gián tiếp' hệ thống
Tuyên bố miễn trừ trách nhiệm: Nội dung được cung cấp trên Phemex News chỉ nhằm mục đích cung cấp thông tin.Chúng tôi không đảm bảo chất lượng, độ chính xác hoặc tính đầy đủ của thông tin có nguồn từ các bài viết của bên thứ ba.Nội dung trên trang này không cấu thành lời khuyên về tài chính hoặc đầu tư.Chúng tôi đặc biệt khuyến khích bạn tự tiến hành nghiên cứu và tham khảo ý kiến của cố vấn tài chính đủ tiêu chuẩn trước khi đưa ra bất kỳ quyết định đầu tư nào.

