Vitalik Buterin hat einen Plan zur Bereitstellung lokalisierter, privater großer Sprachmodelle (LLMs) vorgestellt, der den Schwerpunkt auf Datenschutz und Sicherheit legt. Die Initiative zielt darauf ab, das Risiko von Datenlecks und unbefugtem Zugriff zu minimieren, indem auf entfernte Modelle und externe Dienste verzichtet wird. Zu den wichtigsten Strategien gehören lokale Inferenz, Dateispeicherung auf dem Gerät und Sandbox-Isolierung.
Buterins Hardware-Tests umfassten einen Laptop mit einer NVIDIA 5090 GPU, ein AMD Ryzen AI Max Pro Gerät mit 128 GB einheitlichem Speicher und den DGX Spark. Die Leistungsergebnisse zeigten, dass der 5090-Laptop mit dem Qwen3.5 35B Modell 90 Tokens pro Sekunde erreichte, während das AMD-Gerät und der DGX Spark jeweils 51 bzw. 60 Tokens pro Sekunde erreichten. Buterin bevorzugt leistungsstarke Laptops zum Aufbau lokaler KI-Umgebungen und nutzt dabei Werkzeuge wie llama-server, llama-swap und NixOS.
Vitalik Buterin stellt Plan für lokale private LLM-Bereitstellung vor
Haftungsausschluss: Die auf Phemex News bereitgestellten Inhalte dienen nur zu Informationszwecken.Wir garantieren nicht die Qualität, Genauigkeit oder Vollständigkeit der Informationen aus Drittquellen.Die Inhalte auf dieser Seite stellen keine Finanz- oder Anlageberatung dar.Wir empfehlen dringend, eigene Recherchen durchzuführen und einen qualifizierten Finanzberater zu konsultieren, bevor Sie Anlageentscheidungen treffen.
