Ускорител за извод, който залага на евтина памет

28.08

време за четене: 3 мин.

На конференцията Hot Chips 2026 Intel разкри архитектурата на Crescent Island - ускорител, който съзнателно се отказва от скъпата памет, върху която стъпва почти цялата конкуренция. Замисълът е привлекателен: много памет, обикновен сървър, без ново охлаждане. Едно число обаче липсва в цялото представяне и точно то решава дали замисълът работи.

Робот пълни огромен склад с рафтове до тавана, но пренася кутиите една по една през тясна врата, а навън се вие дълга опашка от чакащи кутии

Какво точно е новото

Уточнение, което си струва да се направи веднага: Crescent Island не е представен сега. Самият ускорител беше обявен още през октомври 2025 г. с името, поколението и обявените мостри за втората половина на 2026 г.

Новото от Hot Chips е архитектурата. Чипът има 32 ядра Xe и 256 матрични двигателя на поколението Xe3P, с трето поколение матрични разширения. Поддържат се формати от FP4 нагоре, а изчисленията с двойна точност вървят с пълна скорост, което е необичайно за чип, предназначен за извод, тоест за самото прилагане на вече обучен модел, а не за обучението му.

Картата е стандартна PCIe, събира се в 350 вата с въздушно охлаждане и в празен ход пада под 50 вата, а в най-икономичното си състояние около 10 вата. Софтуерно Intel се цели в средите vLLM и SGLang.

Залогът: капацитет вместо скорост

Същината на решението е в паметта. Вместо HBM, която е скъпа, гореща и с ограничено производство, Intel слага LPDDR5X - обикновената памет от преносимите компютри.

Тук е нужна точност, защото числото 480 гигабайта обикаля отразяванията подвеждащо. Картата на самия Intel носи 160 гигабайта, а 480 гигабайта е горната граница за варианти, които партньорите производители могат да построят. Разликата между обявена възможност и наличен продукт не е дребна.

Логиката зад залога е разбираема. Голям модел с дълъг контекст изисква преди всичко капацитет, а покупната цена на гигабайт LPDDR5X е в пъти по-ниска от тази на HBM. Ако паметта стига - моделът се побира, ако не стига, не помага никаква скорост.

Какво липсва на ускорител за извод

Пропускателната способност на паметта не е обявена. На пряк въпрос по време на представянето Intel отговаря, че не разкрива тази информация към момента.

Всеки ускорител за извод се преценява по две числа наведнъж: колко памет носи и колко бързо я чете. Тук е съобщено само първото.

Това не е техническа подробност. При извода скоростта на генериране опира именно в пропускателната способност, защото при всяка следваща знакова единица моделът трябва да прочете отново теглата си. Външна оценка на TechSpot поставя пиковата стойност около 684 гигабайта в секунда, при 4,8 терабайта в секунда за по-старата H200 на NVIDIA по официални данни на производителя. Ако тази оценка е близо до истината, капацитетът е купен с многократно по-ниска скорост на четене.

Оценката обаче е чужда, не на Intel, и не бива да се приема за установена. Верният прочит е друг: докато числото не бъде съобщено, всяко твърдение за производителност на този ускорител е предположение.

Какво значи това на практика

Кога такава карта има смисъл, се решава от вида работа. При задачи, при които моделът трябва да се побере целият и да отговаря спокойно, много и евтина памет е точното решение. При задачи, при които се чака бърз отговор в реално време, скоростта на паметта тежи повече от количеството ѝ.

Практическото предимство е в инфраструктурата. Карта, която работи с въздушно охлаждане в стандартен сървър, влиза в съществуващи стелажи, без да се преправя охлаждането на помещението. За организация, която обмисля собствен сървър с локален модел вместо абонамент, това е разликата между надстройка и ремонт. Кога собственият хардуер изобщо се изплаща, разглеждахме в по-ранна наша новина.

Времевата рамка изисква търпение. Мострите се очакват през втората половина на 2026 г., реалната наличност е обявена за 2027 г., а цена няма съобщена.

Заключение

Crescent Island предлага различен отговор на въпроса какво липсва на извода - капацитет, а не изчислителна мощ. Дали отговорът е верен, ще стане ясно едва когато Intel съобщи с каква скорост се чете тази памет.

Помагаме на български организации да преценят кога локален модел на собствен хардуер излиза по-изгодно от абонамент и кога сметката не излиза. Услугите ни покриват одит, оценка на готовност, обучение на екипи и имплементация на специализирани AI автоматизации за всяка организация. Препоръчваме консултация преди инвестиция в собствена инфраструктура за AI. [Свържете се с нас за консултация: academy@razvivai.se]