Отворени модели: изтеглянията не мерят употреба

18.08

време за четене: 3 мин.

Числата за популярност изглеждат безобидни, докато не станат основа за решение. Отчетът за отворените модели от 14 август дава едно такова число и то вече обикаля като доказателство, че малките модели са победили. Проверката на това как се брои едно изтегляне обръща извода.

Робот брои дълга върволица от мънички колички покрай гише, а зад гърба му един огромен камион мълчаливо изнася целия товар и жена със списък сочи камиона, за да прекъсне броенето

Числото, което всички цитират

Отворени модели са тези, чиито тегла се разпространяват свободно и могат да се пуснат на собствен компютър или сървър, вместо да се ползват през чужда услуга. Изборът между тях и затворените услуги е практически въпрос за всяка организация с чувствителни данни, затова числата за популярността им влизат бързо в презентации и решения.

Отчетът на платформата Hugging Face за лятото на 2026 година съобщава, че моделите под един милиард параметъра държат 83% от всички изтегляния за цялото време, а тези над сто милиарда параметъра държат 1%.

Придружаващите числа са също внушителни. Публичните хранилища растат от 2,43 на 2,96 милиона за периода. Библиотеките за формата GGUF, който служи за пускане на модели върху обикновен компютър, растат с 464%, докато основните рамки за разработка растат с 16 до 21%. Изводът се налага сам: работата се върши от малките модели върху обикновен хардуер.

Как се брои едно изтегляне

Собствената документация на платформата описва броенето точно и то не съвпада с интуицията. За изтегляне се брои всяка HTTP заявка към наблюдавания файл, включително заявката, която само проверява дали файлът се е променил. По подразбиране наблюдаваният файл е малкият текстов файл с настройки, не самите тегла на модела.

Същата страница изброява като липсващи възможности точно трите, които биха направили числото смислено: отделянето на файла с настройки от теглата, изключването на автоматизираните системи за изграждане и проверка, и преброяването на уникални потребители. Скрипт, който проверява метаданни при всяко стартиране на контейнер, произвежда изтегляния, без никой да е избирал нищо.

Тук се крие и обяснението защо разликата е толкова голяма. Малките модели за вграждане, класификация и разпознаване на текст се дърпат автоматично при всяко тестово изпълнение. Големите модели се свалят веднъж и остават. Отчетът сам добавя уговорката, че изтеглянията не покриват употребата през приложни интерфейси, частните внедрявания и другите канали на разпространение.

Отворени модели: изтеглянията и токените се разминават

Съществува втора мярка, която брои реално обработените токени, тоест действителната работа. Тя сочи в обратна посока. По данните на OpenRouter моделите под петнадесет милиарда параметъра губят дял в маршрутизираните токени, а средните и големите го печелят.

Отчетът на Mozilla за отворения код в AI от юли 2026 година поставя двете величини една до друга, без да ги примирява. Семейството Qwen има 942 милиона изтегляния срещу 476 милиона за Llama. Същевременно китайските модели обслужват 46% от маршрутизираните токени, а американските 35%. Изтеглянето брои намерение, токенът брои свършена работа, и двете не се движат заедно.

Втората мярка също не е съвършена. Един посредник вижда само трафика, който минава през него, и не обхваща нито прякото ползване през интерфейсите на самите доставчици, нито внедряванията в собствена инфраструктура. Разликата обаче е в посоката на изкривяването: изтеглянията надценяват малките модели, защото ги дърпат машини, а маршрутизираните токени поне броят завършена работа, поискана от някого.

Какво следва при избор на модел

Практическото следствие е за всеки, който избира модел по популярност. Броят изтегляния е слаб ориентир, защото смесва човешки избор с автоматично дърпане. По-полезните признаци са три: колко токена реално обслужва моделът в независим посредник, има ли независимо измерване извън производителя, и работи ли на хардуера, с който разполагате.

Това не отменя стойността на малките модели. Пример от същата седмица е модел за зрение с 3,1 милиарда параметъра, който се побира в около 3 гигабайта памет и обработва изображения на самото устройство, тоест без те да напускат компютъра. Предимството му обаче е поверителността и цената, а не превъзходство над големите, и всички числа за него засега идват от производителя.

Заключение

Двете мерки отговарят на различни въпроси: изтеглянията казват какво се пробва, токените казват какво се ползва. Решение, взето по първата вместо по втората, стъпва на броене на проверки за обновление.

Помагаме на български организации да избират между отворени и затворени AI модели по данни за реална употреба, а не по показатели за популярност. Услугите ни покриват одит, оценка на готовност, обучение на екипи и имплементация на специализирани AI автоматизации за всяка организация. Препоръчваме консултация при преценка дали работата може да мине на собствен хардуер, когато поверителността на данните е водещото изискване. [Свържете се с нас за консултация: academy@razvivai.se]