Tether запустила фреймворк BitNet LoRA, позволяющий обучать модели ИИ на смартфонах, графических процессорах и потребительских устройствах. Эта новая система значительно снижает использование памяти, уменьшая требования к видеопамяти (VRAM) до 77,8%, что позволяет пользователям дообучать модели с параметрами до 13 миллиардов на мобильных устройствах. Фреймворк, анонсированный через платформу QVAC Fabric от Tether, поддерживает кроссплатформенное обучение ИИ, расширяя возможности edge AI.
Обновление QVAC Fabric вводит поддержку дообучения BitNet LoRA на различных аппаратных средствах и операционных системах, включая графические процессоры от AMD, Intel и Apple. Используя бэкенды Vulkan и Metal, фреймворк обеспечивает совместимость между устройствами. Генеральный директор Tether Паоло Ардоино подчеркнул снижение затрат и расширение доступа к инструментам ИИ, отметив способность фреймворка запускать модели с миллиардами параметров на обычном оборудовании, таком как смартфоны и графические процессоры.
Фреймворк BitNet LoRA сочетает методы снижения требований к аппаратному обеспечению, обеспечивая более быструю работу GPU и уменьшение использования памяти. Tether продемонстрировала возможности системы, дообучая модели с 125 миллионами параметров на смартфонах, таких как Samsung S25, за считанные минуты. Это развитие позволяет запускать более крупные модели на edge-устройствах, снижая зависимость от централизованных платформ и обеспечивая локальную обработку данных.
Tether представляет фреймворк BitNet LoRA для обучения ИИ на потребительских устройствах
Отказ от ответственности: Контент, представленный на сайте Phemex News, предназначен исключительно для информационных целей.Мы не гарантируем качество, точность и полноту информации, полученной из статей третьих лиц.Содержание этой страницы не является финансовым или инвестиционным советом.Мы настоятельно рекомендуем вам провести собственное исследование и проконсультироваться с квалифицированным финансовым консультантом, прежде чем принимать какие-либо инвестиционные решения.
