Forklog 2024-10-17 11:36:25

Mistral выпустил ИИ-модели для ноутбуков и смартфонов

Французский ИИ-стартап Mistral выпустил свои первые модели генеративного искусственного интеллекта, предназначенные для работы на периферийных устройствах вроде ноутбуков и телефонов. Новое семейство нейросетей Les Ministraux можно использовать и настраивать для различных приложений, начиная от простой генерации текста и заканчивая совместной более функциональной работой. Представлены две модели Ministral 3B и Ministral 8B. Обе имеют контекстное окно в 128 000 токенов, то есть способны обрабатывать книгу объемом 50 страниц. Сравнение Ministral 3B и 8B с Gemma 2 2B, Llama 3.2 3B, Llama 3.1 8B и Mistral 7B. Данные: блог Mistral. «Наши самые инновационные клиенты и партнеры все чаще спрашивают о локальных выводах с приоритетом на конфиденциальность для критических важных приложений вроде перевода на устройстве, смарт-ассистентов без интернета, локальной аналитики и автономной робототехники. Les Ministraux созданы, чтобы обеспечить эффективное с точки зрения вычислений и низких задержек решение для этих сценариев», — отметила команда в блоге. В сентябре Mistral выпустил свою первую мультимодальную модель, способную обрабатывать изображения и текст. В июле он представил флагманскую нейросеть Large 2, которая «работает на одном уровне с GPT-4o, Claude 3 Opus и Llama 3 405B». Напомним, в июне Mistral AI привлек $640 млн при оценке в $6 млрд. Основанный бывшими сотрудниками Google DeepMind и Meta стартап считается европейским конкурентом OpenAI.