Habana Labs и Hugging Face ускоряют обучение трансформеров
Дмитрий Орлов9 июля 2026 г.5 мин чтения
Habana Labs и Hugging Face объединились для ускорения обучения трансформерных моделей, интегрировав Gaudi с Optimum.
Кратко:
●Habana Labs и Hugging Face объявили о партнёрстве в апреле 2022 года.
●Платформа Habana Gaudi улучшает цену-эффективность обучения на 40%.
●Интеграция позволяет обучать трансформеры с минимальными изменениями кода.
●Gaudi 2 превосходит Nvidia H100 в производительности.
История сотрудничества
12 апреля 2022 года Habana Labs и Hugging Face объявили о партнёрстве, направленном на ускорение обучения трансформерных моделей. Это сотрудничество объединило аппаратную платформу Habana Gaudi с open-source фреймворком Optimum от Hugging Face.
Согласно официальным заявлениям, такая интеграция позволяет пользователям обучать трансформеры, включая модели BERT, с минимальными изменениями в коде. Это стало возможным благодаря совместной работе Habana SynapseAI SDK и библиотеки Optimum.
Технические преимущества
Habana Gaudi обеспечивает до 40% лучшую цену-эффективность по сравнению с аналогичными GPU-решениями в Amazon EC2. Этот факт делает платформу привлекательной для компаний, стремящихся сократить затраты на обучение.
Кроме того, Gaudi 2, выпущенная в мае 2022 года, предлагает улучшенные характеристики — уменьшенный техпроцесс 7 нм, поддержка FP8 и увеличенный объём HBM-памяти до 96 ГБ. Это даёт возможность более эффективно решать задачи как в области NLP, так и в генерации изображений.
Отзывы руководителей
Sree Ganesan, директор по продукту Habana Labs, отметил, что сотрудничество с Hugging Face позволит удовлетворить растущий спрос на трансформеры благодаря эффективности и удобству платформы Gaudi.
Jeff Boudier, директор продукта Hugging Face, выразил уверенность, что новая производительность Gaudi будет доступна пользователям трансформеров с минимальными изменениями кода. Вы можете узнать больше о том, как GPT-4 объясняет нейроны в языковых моделях и как OpenAI планирует будущее AGI.
Дополнительные возможности
Платформа Gaudi теперь поддерживает генерацию изображений через Stable Diffusion, расширяя свои возможности за пределы NLP. По данным на август 2023 года, Gaudi 2 обгоняет Nvidia H100 по производительности при fine-tuning визуально-языковых моделей.
Частые вопросы
Что представляет собой платформа Habana Gaudi?
Habana Gaudi — это аппаратная платформа, разработанная для ускорения обучения трансформерных моделей, обеспечивающая лучшую цену-эффективность по сравнению с GPU.
Как это сотрудничество влияет на обучение трансформеров?
Интеграция Gaudi с Optimum позволяет ускорить процесс обучения и снизить затраты.
Какие преимущества предлагает Gaudi 2?
Gaudi 2 предлагает улучшенные характеристики, такие как уменьшенный техпроцесс, поддержка FP8 и увеличенный объём HBM-памяти, что повышает её производительность в обучении моделей.
