NVIDIA представила Nemotron 3.5 Bolt E4B — компактную модель для периферийных устройств, базирующуюся на архитектуре Google Gemma 4 E4B.
Кратко:
- ●NVIDIA выпустила Nemotron 3.5 Bolt E4B, основанную на Google Gemma 4 E4B.
- ●Модель имеет 8 млрд параметров, из которых 4 млрд активны.
- ●Поддерживает до 64 000 токенов в контексте.
- ●Почему важно: Обеспечивает высокую производительность на устройствах с ограниченными ресурсами.
Сегодня NVIDIA выпустила Nemotron 3.5 Bolt E4B, новую модель искусственного интеллекта, предназначенную для периферийных устройств. Это компактная версия, разработанная на основе архитектуры Google Gemma 4 E4B и прошедшая дополнительное обучение с подкреплением от NVIDIA для улучшения выполнения инструкций.
Происхождение и архитектура
Nemotron 3.5 Bolt E4B создана на базе модели Google Gemma 4 E4B, на которую NVIDIA наложила дополнительное обучение с подкреплением. Это позволило улучшить следование инструкциям и многошаговый вызов инструментов. Сама модель содержит 8 миллиардов параметров, из которых 4 миллиарда эффективно активны.
Размер и доступность
Модель рассчитана на устройства с 4 GB VRAM и доступна в варианте Q4_K_M, подходящем для локального запуска. Лицензия OpenMDW версии 1.1 позволяет как коммерческое, так и некоммерческое использование. Веса модели опубликованы в публичном доступе, а полноточная BF16-версия доступна через платформу Hugging Face.
Производительность и применение
Nemotron 3.5 Bolt E4B ориентирована на использование в локальных голосовых ассистентах, игровых персонажах и роботах. Внутренние тесты NVIDIA показывают, что модель превосходит конкурентов в большинстве задач. Она способна обрабатывать до 64 000 токенов в контексте и обеспечивает производительность от 52 до 133 токенов в секунду на устройствах RTX.
Что это значит
Выпуск Nemotron 3.5 Bolt E4B открывает новые возможности для использования ИИ на устройствах с ограниченными вычислительными ресурсами. Это решение позволяет интегрировать мощные функции ИИ в периферийные устройства, такие как игровые ПК и роботы, без необходимости в сложных инфраструктурах.
Частые вопросы
Что такое Nemotron 3.5 Bolt E4B?
▾
Это новая модель ИИ от NVIDIA, основанная на Google Gemma 4 E4B, предназначенная для использования на устройствах с ограниченными ресурсами.
Сколько параметров в модели?
▾
Модель содержит 8 миллиардов параметров, из которых 4 миллиарда активно используются.
Какие у неё аппаратные требования?
▾
Для запуска требуется 3.1–4.3 GB VRAM, что делает её подходящей для игровых ПК и периферийных устройств.
Где можно получить модель?
▾
Полноточная версия доступна на Hugging Face, а облегчённая — в публичном доступе на build.nvidia.com.
Источники
- Open From Data Center to Desktop: NVIDIA Expands Nemotron Family With Highest Efficiency Super VL and Bolt Models | NVIDIA Blog
- Nemotron 3.5 Bolt E4B Model by NVIDIA | NVIDIA NIM
- Nemotron 3.5 Bolt E4B – Released | HasBeenReleased
- Nemotron news | TPS
- NVIDIA AI Models: Nemotron 3.5 Transcribe | No Code MBA
