Intel объединяет Gaudi 3 и NVIDIA B200 в одном сервере
Intel представила серверную стойку Rack Scale64 с гибридной конфигурацией, объединяющей свои ускорители Gaudi 3 и GPU NVIDIA Blackwell B200. Такая архитектура была продемонстрирована на OCP Global Summit как попытка Intel занять нишу в сегменте ИИ-инфраструктур, используя распределённые вычисления и интеграцию с экосистемой NVIDIA.
Каждая стойка включает 16 вычислительных лотков, в каждом из которых установлены два процессора Xeon, четыре AI-чипа Gaudi 3, четыре сетевых адаптера NVIDIA ConnectX-7 на 400 Гбит/с и один DPU BlueField-3. В качестве сетевого уровня используются 12 коммутаторов с чипами Broadcom Tomahawk 5, обеспечивающими пропускную способность 51,2 Тбит/с и связность по схеме all-to-all. Intel делает акцент на масштабировании через Ethernet и предлагает до 64 Gaudi-чипов в пределах одного домена, а также возможность расширения за пределы стойки через фронтальные OSFP-порты.
В этой конфигурации Gaudi 3 используется для декодирования, тогда как B200 обрабатывает prefill-фазу инференса. Intel утверждает, что это позволяет достичь 1.7-кратного прироста производительности на доллар TCO по сравнению с конфигурацией только на B200. Однако эти данные пока не подтверждены независимыми тестами.
Несмотря на техническую продуманность системы, программная платформа Gaudi остаётся слабым звеном: стек PyTorch не открыт, не интегрирован в open-source-инфраструктуру и плохо поддерживается сообществом. Архитектура Gaudi также приближается к завершению жизненного цикла, что ставит под вопрос долгосрочную жизнеспособность платформы. Таким образом, эта стойка выглядит скорее как способ реализации складских запасов Gaudi 3, нежели как стратегический прорыв.
Добавить комментарий