NVIDIA планирует ускорить SSD до 100 млн IOPS для ИИ-задач
NVIDIA работает с партнёрами над созданием SSD-накопителей с производительностью до 100 миллионов операций ввода-вывода в секунду, чтобы устранить узкое место в современных системах обучения и инференса ИИ. Об этом сообщил глава Silicon Motion Уоллес Куо в интервью Tom’s Hardware.
Современные ускорители, такие как NVIDIA B200, обладают пропускной способностью памяти HBM3E до 8 ТБ/с, что многократно превышает возможности современных SSD по скорости и задержкам. Даже флагманские PCIe 5.0 x4 SSD обеспечивают максимум 14,5 ГБ/с и 2–3 млн IOPS при случайном чтении блоками по 4K или 512 байт. Однако ИИ-модели используют частые и мелкие обращения к данным, где важнее минимальная задержка, а не пропускная способность.
Kioxia уже разрабатывает SSD на базе XL-Flash, способный достичь 10 млн IOPS при 512B-операциях, и рассчитывает выпустить устройство во второй половине 2026 года, синхронно с платформой NVIDIA Vera Rubin. Тем не менее, достижение планки в 100 миллионов IOPS на одном SSD требует либо кардинально новых носителей, либо массивов из нескольких накопителей.
По словам Куо, прежняя альтернатива в лице Intel Optane была бы идеальной, но технология закрыта, и теперь индустрии придётся искать новый тип энергонезависимой памяти. В числе кандидатов — High Bandwidth Flash от SanDisk, XL-NAND от Kioxia и экспериментальные решения от Micron. Однако ни одно из них пока не обеспечивает желаемый баланс между скоростью, стоимостью и энергопотреблением.
