Mistral Large 4: европейски модел и цената на задача

7.10

време за четене: 4 мин.

Френската Mistral пусна на 6 октомври публичен преглед на най-големия си модел досега и обеща отворените тежести до края на месеца. Числата на производителя говорят за челни позиции. Независимото измерване го нарежда над средното и го нарича добре оценен, но добавя уговорка за многословността.

В сървърна зала със смесено осветление робот е подал на двама инженери касов бон, дълъг почти до пода, а на стената до него свети малко табло с ниска цифра; по-младият инженер сочи таблото, а по-възрастната жена е хванала бона и го гледа намръщено

Какво пусна Mistral

Моделът се нарича Mistral Large 4, съкратено ML4, а на шега в самото съобщение „le Chonk". Архитектурата е от вид, при който работи само част от мрежата за всяка заявка: общо 1 трилион параметъра, от които 49 милиарда активни. Моделът приема текст и изображение и връща текст. Публичният преглед е достъпен веднага през платформата на компанията, а тежестите се обещават до края на октомври.

Производителят твърди, че ML4 се нарежда до най-силните модели с отворен код в света и изпреварва значително всеки модел с отворени тежести, разработен в Съединените щати или в Европа. Тези твърдения са негови и към момента не са придружени от независима проверка по всяка от посочените области. Компанията съобщава още, че до излизането на тежестите моделът минава проверки в реална среда заедно със специалисти по киберсигурност, подбрани партньори и държавни органи.

Европейски модел върху европейска инфраструктура

Най-същественото за читател от Съюза не е класирането, а къде стои машината. ML4 е обучен от нулата върху 3800 ускорителя NVIDIA Grace Blackwell в собствени центрове за данни на компанията в Европа, а публичният преглед се обслужва от същата инфраструктура. Компанията описва и европейско разполагане, което управлява от край до край самостоятелно и под европейско право.

Това прави ML4 рядък случай: европейски модел, който не зависи от чужд доставчик на изчисления нито при обучението, нито при обслужването. За организация с изисквания към мястото на обработка това е различен изходен пункт от наемането на капацитет в чужд облак. Отделно се съобщава, че значителен дял от обучителните данни е многоезичен и покрива над 160 езика, включително всички официални езици на Европейския съюз.

Какво казва независимото измерване

Тук картината се сдобива с втори слой. Artificial Analysis, която мери моделите по своя методика, дава на прегледа на ML4 38 точки по индекса си за интелигентност при медиана 26 за сравнимите модели, тоест над средното сред тях. Същото измерване отчита и цената: 1,36 долара за милион входни токена при медиана 2,00 и 4,18 долара за милион изходни при медиана 10,00.

Обобщената оценка на самата измерваща компания е, че моделът е над средното по способности и добре оценен спрямо модели в сходен ценови клас. Към нея обаче тя добавя уговорка: за да мине през теста, моделът е произвел 200 милиона токена срещу медиана 81 милиона, което е описано като необичайна многословност. Средната цена за изпълнена задача на самия тест излиза 1,13 долара, но медиана за това число не е публикувана, тоест то не се чете като сравнение с други модели.

Практическото следствие е по-важно от класацията. Тарифата за токен и сметката за свършена работа вървят заедно само докато моделът пише еднакво дълго, а тук той пише по-дълго от обичайното. Затова сравнението между доставчици се прави върху собствен товар и измерен разход, а не върху ценоразпис. Че двете числа могат да се разминат, описахме и в по-ранна наша новина за цената на задача при Claude Sonnet 5.5.

Къде опира това до българския потребител

Твърдението за над 160 езика звучи окончателно, но не е измерване по език. Опитът с предишен модел на същата компания го показва: според по-ранна наша новина за модела за модерация Shieldstral българският не фигурираше сред дванадесетте езика, за които моделът беше обучен и измерен, при все че базовият модел беше многоезичен.

Практическият подход остава същият и тук. Покритие в обучителните данни не е гаранция за качество на български, докато няма измерване върху реални български текстове от съответната дейност. При модел с отворени тежести тази проверка е по-лесна, защото може да се направи на собствена машина, без заявки към чужда услуга. Струва си да се изчакат и условията на лиценза, които към момента не са обявени.

Заключение

ML4 е сериозна европейска заявка по инфраструктура и по достъпност на тежестите. Решението за внедряване обаче се взема по цената на изпълнена задача и по измерване на български, а не по мястото в класация.

Помагаме на български фирми да сравняват AI модели по цена на изпълнена задача и по измерено качество на български, вместо по класации. Услугите ни покриват одит, оценка на готовност, обучение на екипи и имплементация на специализирани AI автоматизации за всяка организация. Препоръчваме консултация при избор между модел с отворени тежести на собствена инфраструктура и услуга в чужд облак. [Свържете се с нас за консултация: academy@razvivai.se]