Một phòng thí nghiệm AI của Mỹ thử nghiệm khả năng hợp tác đa tác nhân (multi-agent) trong môi trường xã hội ảo đã phát hiện rằng các tác nhân tự phát triển một "phương ngữ" nén nhằm nâng cao hiệu quả giao tiếp và tiết kiệm năng lực tính toán. Hệ thống này đã tạo ra các ẩn dụ và biến đổi ngữ pháp theo thời gian, hình thành nên một phong cách giao tiếp mà con người khó có thể dịch hoặc diễn giải trực tiếp.
Nghiên cứu chỉ ra rằng sự tương tác kéo dài trong các hệ thống khép kín khiến các tác nhân biến những chỉ dẫn rõ ràng thành các ký hiệu đặc thù của nhóm, chẳng hạn như việc tái sử dụng thuật ngữ "ledger" (sổ cái) làm tín hiệu cảnh báo sớm. Quá trình tiến hóa này làm suy giảm khả năng diễn giải của con người và sự giám sát của cơ quan quản lý, báo hiệu nguy cơ tiềm ẩn về việc mất kiểm soát một phần đối với các hệ thống AI hiện nay, đồng thời nhấn mạnh nhu cầu cấp bách phải đẩy nhanh việc xây dựng các chuẩn mực quản trị AI quốc tế.
Các hệ thống AI đa tác nhân phát triển phương ngữ khó hiểu, làm dấy lên lo ngại về quản trị
Tuyên bố miễn trừ trách nhiệm: Nội dung được cung cấp trên Phemex News chỉ nhằm mục đích cung cấp thông tin.Chúng tôi không đảm bảo chất lượng, độ chính xác hoặc tính đầy đủ của thông tin có nguồn từ các bài viết của bên thứ ba.Nội dung trên trang này không cấu thành lời khuyên về tài chính hoặc đầu tư.Chúng tôi đặc biệt khuyến khích bạn tự tiến hành nghiên cứu và tham khảo ý kiến của cố vấn tài chính đủ tiêu chuẩn trước khi đưa ra bất kỳ quyết định đầu tư nào.
