Tether hat das BitNet LoRA-Framework eingeführt, das das Training von KI-Modellen auf Smartphones, GPUs und Verbrauchergeräten ermöglicht. Dieses neue System reduziert den Speicherverbrauch erheblich, mit bis zu 77,8 % geringeren VRAM-Anforderungen, wodurch Benutzer Modelle mit bis zu 13 Milliarden Parametern auf mobilen Geräten feinabstimmen können. Das Framework, das über Tethers QVAC Fabric-Plattform angekündigt wurde, unterstützt plattformübergreifendes KI-Training und erweitert die Fähigkeiten von Edge-KI. Das QVAC Fabric-Update führt die Unterstützung für BitNet LoRA-Feinabstimmung auf verschiedenen Hardware- und Betriebssystemen ein, einschließlich GPUs von AMD, Intel und Apple. Durch die Nutzung von Vulkan- und Metal-Backends stellt das Framework die Kompatibilität über verschiedene Geräte hinweg sicher. Tethers CEO, Paolo Ardoino, betonte die reduzierten Kosten und den breiteren Zugang zu KI-Tools und hob die Fähigkeit des Frameworks hervor, Modelle mit Milliarden von Parametern auf alltäglicher Hardware wie Smartphones und GPUs auszuführen. Das BitNet LoRA-Framework kombiniert Techniken zur Senkung der Hardwareanforderungen, ermöglicht schnellere GPU-Inferenz und reduziert den Speicherverbrauch. Tether demonstrierte die Leistungsfähigkeit des Systems, indem es Modelle mit 125 Millionen Parametern in wenigen Minuten auf Smartphones wie dem Samsung S25 feinabstimmte. Diese Entwicklung ermöglicht es, größere Modelle auf Edge-Geräten auszuführen, wodurch die Abhängigkeit von zentralisierten Plattformen verringert und die lokale Datenverarbeitung ermöglicht wird.