Твърдение за производителност и защо 30 пъти не излиза

20.08

време за четене: 4 мин.

Cerebras представи на 18 август системата CS-4 със заглавно обещание за до 30 пъти по-бърза работа от системи с видеокарти. Машината наистина е най-бързата при независимо измерване, а компанията не изглежда да заблуждава нарочно. Разглобяването на числото обаче е по-полезно от самата новина, защото същите хватове стоят зад всяка оферта, която ще прочетете тази година.

Робот стои върху едното блюдо на голяма везна и вдига ръце тържествуващо, а жена инженер клекнала до него сочи дървения клин, подпъхнат под другото блюдо.

Какво точно е обявено

CS-4 събира три силициеви пластини в един шкаф, обявява 750 петафлопса и латентност между пластините от две микросекунди. Твърдението за скорост е конкретно: над 4400 знака в секунда на потребител, до 30 пъти повече от решенията с видеокарти. Първите доставки започват до края на тримесечието, а цена не е обявена.

Още тук се вижда нещо любопитно. Съобщението към инвеститорите говори за модели над 50 трилиона елемента, а блогът на същата компания от същия ден - за над 10 трилиона. Когато два документа на един подател от една дата не си съвпадат, това само по себе си е основание числата да се четат бавно.

Как се разглобява твърдение за производителност

Всяко твърдение за производителност е дроб. Числителят се обявява гръмко, знаменателят обикновено мълчи.

Тук числителят е 4400 знака в секунда. Знаменателят никъде не е назован: не се казва коя система с видеокарти, коя конфигурация, какъв размер на групата заявки и каква дължина на контекста. Според техническия разбор на The Register сравнението стъпва на около 350 знака в секунда при най-бързата облачна услуга. Само че 4400 разделено на 350 дава 12,6, а не 30, и компанията не показва как се получава заглавното число.

Знаменателят се оказва и по-мек, отколкото звучи. Публикуван опит на друг доставчик върху осем чипа GB200 стига до 650 знака в секунда, а след настройка до 1366. Оптимизираната конкурентна система е около три пъти по-бавна, а не трийсет, и разликата идва изцяло от това с какво сте избрали да се сравните.

Вторият хват е смяната на мерната единица. Изчислителната мощ се дава при така нареченото разредено смятане: допуска се, че девет от всеки десет числа в сметката са нули, а нулите се прескачат и въпреки това се броят за свършена работа. При обичайното плътно смятане същият чип дава 25 петафлопса вместо 250. Заглавното число сравнява разредена стойност с плътните стойности на конкурентите, при това за задача, при която разредеността по правило не помага.

Третият хват е самата дума „до". Тя прави твърдението неопровержимо: достатъчна е една конфигурация, един модел и едно измерване, за да е вярно. Четвъртият е бележката под линия, която признава, че резултатът зависи от архитектурата на модела, дължината на контекста, точността и настройката - тоест от всичко, което определя резултата.

Същият чип, само по-натоварен

Номерацията подсказва ново поколение: CS-3 става CS-4, а чипът се преименува на WSE-3 Turbo. Силицият обаче е същият: 46 225 квадратни милиметра, четири трилиона транзистора, 900 000 ядра, 44 гигабайта памет, същият производствен процес от 2024 година.

Точното удвояване и на изчисленията, и на честотната лента, при нула промяна в чипа, сочи повишена тактова честота, а не преработка. Самата Cerebras го потвърждава пред The Register, макар конкретните честоти да са оценка на изданието, а не обявена спецификация. Удвоената производителност идва при приблизително удвоена консумация, тоест ефективността на ват остава почти същата.

Какво издържа проверката

Скептицизмът не бива да отива в другата крайност. Cerebras наистина е първа при независимото измерване на Artificial Analysis за същия модел: около 1670 знака в секунда срещу 704 за втория и около 476 за третия. Това е реално и убедително предимство, само че е около три пъти и половина, а не трийсет.

Издържа и консумацията. Две независими издания стигат до 120-140 киловата на шкаф при около 240-250 при сравнимите стелажи на AMD и Nvidia. За център за данни това е сериозен довод при захранването и охлаждането.

Струва си да се отбележи и обратното. При друг избор на знаменател, например силно натоварена система с много едновременни потребители, независим анализатор стига до порядък от 20 до 40 пъти. Числото 30 не е измислено, а избрано, и точно това е разликата между лъжа и премълчаване.

Заключение

Проверката на такова твърдение отнема няколко минути и не изисква технически познания: намерете знаменателя, проверете дали двете страни се мерят с една и съща мярка, прочетете бележката под линия преди заглавието. Ако знаменателят липсва, числото не е сравнение, а реклама.

Помагаме на български екипи да четат технически оферти по същество и да превръщат обещаните числа в проверими критерии за избор. Услугите ни покриват одит, оценка на готовност, обучение на екипи и имплементация на специализирани AI автоматизации за всяка организация. Препоръчваме консултация при избор на доставчик за AI инфраструктура или при сравняване на оферти с гръмки показатели за производителност. [Свържете се с нас за консултация: academy@razvivai.se]