Tether a lancé le cadre BitNet LoRA, permettant l'entraînement de modèles d'IA sur smartphones, GPU et appareils grand public. Ce nouveau système réduit considérablement l'utilisation de la mémoire, avec des besoins en VRAM jusqu'à 77,8 % inférieurs, permettant aux utilisateurs d'affiner des modèles allant jusqu'à 13 milliards de paramètres sur des appareils mobiles. Le cadre, annoncé via la plateforme QVAC Fabric de Tether, prend en charge l'entraînement d'IA multiplateforme, élargissant les capacités de l'IA en périphérie.
La mise à jour QVAC Fabric introduit la prise en charge de l'affinage BitNet LoRA sur divers matériels et systèmes d'exploitation, y compris les GPU d'AMD, Intel et Apple. En utilisant les backends Vulkan et Metal, le cadre assure la compatibilité entre les appareils. Paolo Ardoino, PDG de Tether, a souligné la réduction des coûts et l'accès élargi aux outils d'IA, mettant en avant la capacité du cadre à exécuter des modèles de milliards de paramètres sur du matériel courant comme les smartphones et les GPU.
Le cadre BitNet LoRA combine des techniques pour réduire les exigences matérielles, permettant une inférence GPU plus rapide et une utilisation mémoire réduite. Tether a démontré la capacité du système en affinant des modèles de 125 millions de paramètres sur des smartphones comme le Samsung S25 en quelques minutes. Ce développement permet à des modèles plus grands de fonctionner sur des appareils en périphérie, réduisant la dépendance aux plateformes centralisées et permettant le traitement local des données.
Tether dévoile le cadre BitNet LoRA pour la formation d'IA sur les appareils grand public
Avertissement : Le contenu proposé sur Phemex News est à titre informatif uniquement. Nous ne garantissons pas la qualité, l'exactitude ou l'exhaustivité des informations provenant d'articles tiers. Ce contenu ne constitue pas un conseil financier ou d'investissement. Nous vous recommandons vivement d'effectuer vos propres recherches et de consulter un conseiller financier qualifié avant toute décision d'investissement.
