Французская лаборатория Mistral AI представила Mistral Large 4 — модель на триллион параметров, способную обойти конкурентов.
Кратко:
- ●Mistral AI выпустила модель Mistral Large 4.
- ●Модель имеет триллион параметров.
- ●Конкурирует с китайскими и американскими аналогами.
- ●Открытые веса будут доступны 27 октября.
Mistral Large 4: новая модель от французских разработчиков
Сегодня французская лаборатория Mistral AI представила свою новую мультимодальную модель Mistral Large 4, известную также как «Le Chonk». Она обладает триллионом параметров, из которых одновременно активны лишь 49 миллиардов. Mistral AI намерена с её помощью обойти как закрытых, так и открытых конкурентов из США и Китая.
Технические особенности модели
Mistral Large 4 — это мультимодальная модель, которая обрабатывает как текст, так и изображения. Модель оснащена визуальным энкодером на 1,6 миллиарда параметров. Обучение происходило в европейских дата-центрах Mistral, где было задействовано около 4 000 графических процессоров Nvidia Grace Blackwell. Весь процесс занял около двух месяцев и потребовал в 2–3 раза меньше ресурсов, чем у китайских и американских конкурентов.
