Vitalik Buterin đã phác thảo một kế hoạch triển khai các mô hình ngôn ngữ lớn (LLMs) cục bộ và riêng tư với trọng tâm là quyền riêng tư và bảo mật. Sáng kiến này nhằm giảm thiểu rủi ro rò rỉ dữ liệu và truy cập trái phép bằng cách tránh sử dụng các mô hình từ xa và dịch vụ bên ngoài. Các chiến lược chính bao gồm suy luận cục bộ, lưu trữ tệp trên thiết bị và cách ly trong môi trường sandbox.
Các bài kiểm tra phần cứng của Buterin bao gồm một chiếc laptop với GPU NVIDIA 5090, một thiết bị AMD Ryzen AI Max Pro với bộ nhớ hợp nhất 128 GB, và DGX Spark. Kết quả hiệu suất cho thấy chiếc laptop 5090 đạt 90 token mỗi giây với mô hình Qwen3.5 35B, trong khi thiết bị AMD và DGX Spark đạt lần lượt 51 và 60 token mỗi giây. Buterin ưu tiên sử dụng các laptop hiệu năng cao để xây dựng môi trường AI cục bộ, sử dụng các công cụ như llama-server, llama-swap và NixOS.
Vitalik Buterin Tiết Lộ Kế Hoạch Triển Khai Mô Hình Ngôn Ngữ Lớn Riêng Tư Tại Chỗ
Tuyên bố miễn trừ trách nhiệm: Nội dung được cung cấp trên Phemex News chỉ nhằm mục đích cung cấp thông tin.Chúng tôi không đảm bảo chất lượng, độ chính xác hoặc tính đầy đủ của thông tin có nguồn từ các bài viết của bên thứ ba.Nội dung trên trang này không cấu thành lời khuyên về tài chính hoặc đầu tư.Chúng tôi đặc biệt khuyến khích bạn tự tiến hành nghiên cứu và tham khảo ý kiến của cố vấn tài chính đủ tiêu chuẩn trước khi đưa ra bất kỳ quyết định đầu tư nào.
