Nemotron Transcribe: NVIDIA пусна отворен модел с български

преди 1 ден

време за четене: 3 мин.

Записът на среща, лекция или разговор с клиент често остава неизслушан, защото преписването му отнема часове. NVIDIA пусна модел, който превръща запис в текст на 40 езика, сред тях и български, и може да работи на собствен сървър. За фирмите това е шанс записите да станат текст, без да напускат организацията - но с ограничения, които е добре да се знаят предварително.

В заседателна зала вечер робот пише на лаптоп пред микрофон, докато трима колеги спорят над масата, а жена със слушалки на врата посочва маркиран ред на екрана.

Какво пусна NVIDIA

На 28 октомври NVIDIA публикува Nemotron 3.5 Transcribe - модел с отворени тегла за преписване на реч. Според картата на модела в Hugging Face той работи със записи до един час, според NVIDIA превежда между английски и 31 от езиците и може да отговаря на въпроси за съдържанието на записа. Според NVIDIA моделът е за търговска и нетърговска употреба, под лиценз OpenMDW-1.1.

Моделът има 34 млрд. параметъра, но при всяка стъпка работят около 4,3 млрд., включително звуковият енкодер. Препоръчаната конфигурация е една видеокарта H100 с 80 GB памет, а NVIDIA пуска и олекотени версии с по-ниска числова прецизност (FP8 и NVFP4). Според TechCrunch компанията твърди, че моделът работи на един чип - от компактния DGX Spark до сървърите в центровете за данни.

Заедно с модела NVIDIA пусна и втората версия на набора от данни Granary - около 844 хил. часа реч на 48 езика, срещу около 643 хил. часа на 25 езика в първата, по данни на The Decoder.

Nemotron Transcribe и българският език

В таблицата с езиците на модела българският е отбелязан като „готов за реална работа" - средното от трите нива на качество. За българския моделът поддържа преписване и превод към и от английски, но не и разпознаване кой говорещ какво казва - в таблицата на NVIDIA тази функция е отбелязана за 13 езика, без български. Измерената от NVIDIA грешка за български на теста FLEURS е 8,01% от думите. На английската класация Open ASR на Hugging Face NVIDIA отчита средна грешка 4,71% (към 12 октомври) и първо място сред моделите с отворени тегла. Резултатите от различни тестове не са пряко сравними.

Има и друго ограничение. Картата уточнява, че разбирането на звука, разсъжденията и изпълнението на гласови инструкции са проверени само на английски и на другите езици може да не работят надеждно. TechCrunch отбелязва още, че моделът е за готови записи, не за поток на живо.

Нашият анализ: собствен сървър вместо облак

Наблюдаваме как отворените модели за реч стигат нивото на платените услуги, а българският вече не остава непременно извън тях, както в по-ранна наша новина за модел на Mistral без български. Независимата класация на Artificial Analysis вече включва модела наред с търговските услуги за преписване. Ако моделът може да работи на Ваш собствен сървър, записите на срещи с клиенти, на консултации или на лекции не е нужно да се изпращат към външна услуга. Това има значение за фирми с поверителни разговори и за образователни институции, които записват занятия.

Числата за качество са измерени от NVIDIA върху стандартни тестове. Реалните записи със шум, диалект или много говорещи едновременно обикновено дават повече грешки. NVIDIA показва, че настройката помага: при записи на индийски лекари грешката пада от 30,8% на 23,8% с по-точна инструкция и до 11,8% след донастройка на модела. За български такъв пример няма.

Какво може да се направи

Преди да се инвестира в хардуер, струва си моделът да се изпробва върху десетина реални записа от работата Ви - среща, разговор по телефона, лекция - и грешките да се преброят на ръка. Така се вижда дали 8% в теста означават 8% и при Вас.

Ако протоколът трябва да казва кой какво е казал, за български ще е нужна допълнителна стъпка или човек, който да размечи говорещите. Моделът спестява преписването, но не и прочита: текстът от запис се проверява, преди да влезе в протокол или договор.

Заключение

Nemotron Transcribe поставя българския на нивото „за реална работа" в отворен модел, който може да работи на собствен сървър. Той не решава всичко, но прави преписването на собствени записи достъпно за организации, които не искат данните им да излизат навън.

Искате да започнете с AI от нулата? Безплатният курс „Основи на AI“ е 17 видео урока, около 35 минути, със сертификат: Започнете безплатния курс по AI

Помагаме на български фирми и образователни институции да изберат и изпробват модели за преписване на реч, които пазят записите вътре в организацията. Услугите ни покриват одит, оценка на готовност, обучение на екипи и имплементация на специализирани AI автоматизации за всяка организация. Препоръчваме консултация, когато записвате срещи, консултации или занятия и искате да ги превърнете в текст, без да ги изпращате към външна услуга. [Свържете се с нас за консултация: academy@razvivai.se]