Dell и CoreWeave первыми развернули AI-кластеры на базе Nvidia GB300 NVL72 с Blackwell Ultra
Dell объявила о поставке первых в индустрии систем на базе Nvidia GB300 NVL72, предназначенных для обучения и инференса больших языковых моделей. Кластеры получили 72 видеокарты Blackwell Ultra, 36 процессоров Grace на архитектуре Arm и 36 DPU BlueField в каждом шкафу. Решение разработано совместно с AI-облачным провайдером CoreWeave и развёрнуто в дата-центрах Switch.
По заявлению компаний, один GB300 NVL72 обеспечивает до 1.1 ЭксaFLOPS в режиме FP4 и 0.36 ЭксaFLOPS в FP8, что примерно на 50% выше по сравнению с GB200 NVL. Каждый шкаф также оснащён 20 ТБ HBM3E и 40 ТБ оперативной памяти, а соединение между узлами обеспечивают переключатели Quantum-X800 InfiniBand и SuperNIC ConnectX-8, поддерживающие до 14.4 ГБ/с — в 2 раза быстрее, чем раньше. Все компоненты охлаждаются жидкостью, так как мощность одного GPU достигает 1400 Вт.
Dell поставляет GB300 NVL72 в виде полностью интегрированных и протестированных стоек, готовых к промышленному использованию. CoreWeave планирует использовать систему для ускорения обучения LLM и задач генеративного ИИ, а со временем нарастить производственные мощности за счёт масштабируемости этих стоек. Интересно, что новые платформы появились всего через 7 месяцев после запуска GB200 NVL72, что ставит под сомнение срок жизни оригинальной версии Blackwell и подчёркивает высокий спрос на Blackwell Ultra среди CSP-компаний.