Отворени тежести на Beam: моделът е обявен, не издаден

6.10

време за четене: 4 мин.

Американска лаборатория обяви модел, който според нея се мери с водещите китайски отворени модели, но изразходва три до четири пъти по-малко изчисление от тях при самото ползване. Файловете, с които всеки би могъл да провери това, още не са публикувани.

На светла товарна площадка с големи прозорци робот е разгънал голяма диаграма пред трима инженери, а до него на палет стои неразпечатан сандък, стегнат с метална лента; жена инженер е сложила ръка на лентата и гледа робота въпросително, вместо да гледа диаграмата

Какво представи Reflection

На 5 октомври Reflection AI представи Beam - първия си модел с отворени тежести. Архитектурата е разредена смес от експерти: 501 млрд. общо параметри, от които при всяка заявка работят 23 млрд. Предварителното обучение е върху 23,8 трилиона токена от мрежата, публични сбирки и лицензирани набори, а работният контекст е разширен до 1 млн. токена.

Числата около обучението са нетипични за отворен модел. Предварителното обучение е минало за под четири седмици върху 6144 ускорителя NVIDIA GB300 NVL72. Обучението с подсилване е ползвало 10 500 такива ускорителя за още четири седмици и е произвело над 100 млн. преминавания през задачи, при около 1,3 млрд. изолирани среди за проверка. Компанията го описва като един от най-големите цикли на обучение с подсилване, правени от отворена лаборатория.

За мащаба зад проекта: по данни на PitchBook, цитирани от TechCrunch, Reflection е основана през 2024 г. от двама бивши изследователи на Google DeepMind, набрала е около 4,7 млрд. долара от Nvidia, Sequoia Capital и Lightspeed, а последният кръг я оценява на 25 млрд. долара преди вливането. През лятото е подписала договори за над 7 млрд. долара със SpaceX и Nebius за достъп до ускорители GB300 до 2029 г.

Отворени тежести, които още не са публикувани

Тук е уговорката, която носи цялата новина. Beam е обявен, но не е издаден. Компанията пише, че моделът минава финални проверки и нападателно тестване, а тежестите, техническият доклад, картата на модела и материалите за разработчици излизат „по-късно този месец" под лиценз Apache 2.0, заедно с документация и целия набор за пускане, оценяване и донастройване. Засега работи списък на изчакване за избрани потребители.

Разликата е практическа. Отворени тежести значат, че организация може да свали файловете, да пусне модела на своя инфраструктура и да провери твърденията сама. Докато тези файлове липсват, всяко число за Beam е число на производителя му. TechCrunch отбелязва изрично, че показателите на Reflection не са независимо проверени, а на запитване за повече информация компанията не е отговорила навреме.

Къде е същинската новина: цената на извода

Мястото в класирането не е новото. По собствените данни на Reflection моделът се движи близо до GLM-5.2 на Z.ai, а по чиста способност остава зад Kimi K3, тоест върхът на отворените модели не е превзет. SiliconANGLE добавя и по-широкия контекст: свободните модели продължават да изостават от затворените водещи модели.

Новото е съотношението. Компанията твърди, че на тежките задачи за разсъждение Beam постига оценки, съизмерими с GLM-5.2, при три до четири пъти по-малко изчисление за самия извод, отколкото GLM-5.2 изразходва за същите задачи. Обяснението е в архитектурата: при Beam работят 23 млрд. параметъра на заявка, докато GLM-5.2 има около 744 млрд. общо и 40 млрд. активни по данните на TechCrunch.

Струва си да се чете и как е мерено. Reflection описва сметката си като приблизително сравнение: взема оценки от външни измерители, пресмята изчислението по активните параметри и средния брой генерирани токени и изрично изключва обработката на подадения текст и част от разхода при обслужване. Това не е измерена цена за ползване, а оценка на порядък.

Какво може да се направи

Не планирайте смяна на модел по обявление. Полезният момент за решение е след публикуването на тежестите и техническия доклад, когато външни измерители могат да повторят сметката.

Мерете на своите задачи, не на чуждите класирания. Разликата, която Reflection рекламира, е в разхода на токени при разсъждение, затова тя се проявява силно при дълги агентни задачи и слабо при кратки запитвания. За организация с еднотипни кратки заявки по-евтиният извод не носи спестяване, което да се забележи в сметката.

И проверете правния въпрос заедно с техническия. Лиценз Apache 2.0 върху тежестите позволява търговско ползване и донастройване, но не отменя задълженията по данните, с които моделът ще работи.

Заключение

Beam е първият западен отворен модел, който слага цената на извода в центъра на обещанието си, а не мястото в класирането. Доколко обещанието е вярно, ще се разбере този месец, когато файловете излязат и сметката може да бъде повторена отвън.

Помагаме на български организации да преценят кой AI модел им върши работа и на каква цена за задача, със сметка върху собствените им потоци, не върху чужди класирания. Услугите ни покриват одит, оценка на готовност, обучение на екипи и имплементация на специализирани AI автоматизации за всяка организация. Препоръчваме консултация при избор между затворен и отворен модел за вътрешни задачи. [Свържете се с нас за консултация: academy@razvivai.se]