Корпорация NVIDIA официально объявила о расширении экосистемы NVLink Fusion новой технологией специализированной памяти высокой пропускной способности под названием NVHBM. Разработка создана для удовлетворения растущих вычислительных запросов сложных моделей искусственного интеллекта и автономных интеллектуальных агентов с триллионами параметров. В традиционной компоновке контроллер памяти размещается непосредственно на кристалле вычислительного процессора, отнимая полезную площадь полупроводниковой пластины, которая могла бы использоваться для наращивания вычислительных блоков. Архитектура NVHBM переносит контроллер памяти собственной разработки NVIDIA непосредственно в базовый слой кремния трехмерного стека памяти HBM.
Перенос контроллера внутрь многослойного стека обеспечивает до 30% более высокую пропускную способность памяти и снижает энергопотребление самой подсистемы HBM на 15%. Кроме того, такой подход позволяет освободить до 25% площади на вычислительном кристалле процессора по сравнению с грядущим стандартом HBM4E. Создание стандартизированной реализации NVHBM с привлечением ведущих контрактных производителей памяти позволит заказчикам существенно снизить инженерные затраты на валидацию компонентов и ускорить вывод полузаказных ускорителей вычислений на коммерческий рынок.
Первым стратегическим партнером, внедряющим технологию NVHBM, станет принадлежащее компании Amazon подразделение Annapurna Labs в рамках масштабного сотрудничества вокруг платформы NVLink Fusion. Команда разработчиков интегрирует поддержку экосистемы в следующее поколение специализированных серверных чипов Trainium начиная с модели Trainium4. Данное аппаратное решение позволит заказным процессорам Amazon и графическим ускорителям NVIDIA слаженно функционировать внутри единых масштабируемых серверных стоек, снижая архитектурные риски при развертывании современной вычислительной инфраструктуры.