Компания Tether представила QVAC, первую в мире кроссплатформенную систему LoRA для BitNet, позволяющую обучать и использовать модели искусственного интеллекта с миллиардами параметров на потребительских графических процессорах и смартфонах.

17 марта 2026 г. – Компания Tether сегодня объявила о прорыве в области обучения моделей искусственного интеллекта с запуском первой в мире кроссплатформенной системы LoRA для моделей BitNet (LLM с 1-битной точностью) от Microsoft. Эта новая функция, входящая в состав QVAC Fabric, значительно снижает требования к памяти и вычислительным ресурсам, позволяя обучать языковые модели с миллиардами параметров на обычном оборудовании, включая ноутбуки, потребительские графические процессоры и современные смартфоны.

Разработка и поддержка моделей искусственного интеллекта требуют систем NVIDIA корпоративного уровня или облачной инфраструктуры, что стало непомерно дорого. Это привело к тому, что разработка передовых моделей искусственного интеллекта стала доступна практически только крупнейшим организациям, имеющим доступ к специализированному оборудованию и значительным бюджетам.

QVAC Fabric LLM от Tether, дополнительно улучшенный благодаря этой новой системе, основанной на BitNet, устраняет эти барьеры, обеспечивая кроссплатформенную поддержку LoRA для обучения и ускорения работы на различных потребительских графических процессорах, включая Intel, AMD, Apple Silicon M и другие. Это достижение позволяет пользователям обучать и настраивать модели искусственного интеллекта непосредственно на широко доступных потребительских устройствах.

Это достижение команды инженеров Tether является первым успешным демонстрационным примером обучения BitNet на мобильных графических процессорах, включая Adreno, Mali и Apple Bionic GPU. Пользователи могут обучать модели BitNet с 125 миллионами параметров примерно за 10 минут на Samsung S25 (графический процессор Adreno) для биомедицинского набора данных, состоящего из примерно 300 документов (около 18 000 токенов). Для модели с 1 миллиардом параметров обучение на том же биомедицинском наборе данных занимает 1 час 18 минут на устройстве Samsung S25 и 1 час 45 минут на iPhone 16. Доводя устройства до предельных возможностей, наша команда смогла обучать модели размером до 13 миллиардов параметров на iPhone 16.

Эта система также демонстрирует возможность обучения моделей, которые в 2 раза больше, чем модели Q4 без BitNet, на периферийных устройствах, что подчеркивает превосходное преимущество в использовании памяти архитектуры BitNet.

Производительность BitNet также значительно улучшается благодаря QVAC Fabric. Семейство моделей BitNet работает значительно быстрее на мобильных графических процессорах. На этих устройствах производительность графического процессора была в 2-11 раз выше, чем у центрального процессора, что показывает, что современные мобильные графические процессоры могут поддерживать задачи, которые ранее требовали специализированного дорогостоящего оборудования или центров обработки данных.

Экономия памяти также является значительной. Тесты показывают, что BitNet-1B (TQ1_0) использует на 77,8% меньше видеопамяти, чем Gemma-3-1B (16-битная), и на 65,6% меньше, чем Qwen3-0.6B (16-битная), как при работе, так и при обучении с использованием LoRA. Эти сокращения создают значительный запас памяти, позволяя запускать более крупные модели и процессы персонализации на оборудовании, которое ранее считалось недостаточным.

Кроме того, эта платформа впервые позволяет проводить тонкую настройку моделей LLM с использованием технологии LoRA для 1-битных моделей на оборудовании, отличном от NVIDIA, расширяя поддержку для AMD, Intel, Apple Silicon и мобильных графических процессоров. Сокращая зависимость от специализированного оборудования и облачных провайдеров, система расширяет доступ к тонкой настройке ИИ, при этом конфиденциальные данные остаются локально на устройстве. Это преимущество в эффективности также делает федеративное обучение достижимым и реалистичным в ближайшем будущем, позволяя обучать и обмениваться обновлениями тонкой настройки между распределенными устройствами, сохраняя при этом конфиденциальные данные пользователей локально и снижая зависимость от централизованной инфраструктуры.

«Интеллект станет ключевым фактором, определяющим будущее общества. Он может повысить стабильность общества, служить связующим звеном или еще больше укрепить позиции немногих. Будущее ИИ должно быть доступным, распространенным и открытым для людей и разработчиков во всем мире, и оно не должно требовать огромных ресурсов, доступных только ограниченному числу облачных провайдеров», — сказал Паоло Ардоино, генеральный директор Tether. «Когда обучение больших языковых моделей зависит от централизованной инфраструктуры, инновации стагнируют, экосистема становится хрупкой, и нарушается общественный баланс. Позволяя проводить значительное обучение больших моделей на потребительском оборудовании, включая смартфоны, QVAC от Tether доказывает, что передовой ИИ может быть децентрализованным, инклюзивным и полезным для всех. Tether продолжит инвестировать значительные ресурсы и капитал в ближайшие недели, месяцы и годы, чтобы обеспечить доступность ИИ для всех, везде, локально на устройствах. Эпоха стабильного интеллекта только начинается».

Полные технические детали, включая статью, адаптеры, тесты и кросс-платформенные сборки, доступны в блоге Hugging Face: LoRA Fine-Tuning BitNet b1.58 LLMs on Heterogeneous Edge GPUs via QVAC Fabric.

О компании Tether

Миссия компании Tether – продвигать свободу, прозрачность и инновации с помощью технологий. Компания стремится предоставить людям и организациям возможность напрямую общаться и обмениваться информацией, без ненужных посредников. Создавая безопасные, децентрализованные системы, Tether дает пользователям больше контроля над своими данными, коммуникациями и цифровыми взаимодействиями.

Tether стремится переосмыслить то, как информация передается по сетям, заменяя централизованные модели децентрализованной инфраструктурой, предназначенной для обеспечения конфиденциальности, эффективности и устойчивости. Цель компании – сделать глобальную связь более быстрой, безопасной и конфиденциальной, расширяя возможности как отдельных лиц, так и организаций для свободного и безопасного обмена информацией.