Интеграция HBM-PIM с системой ускорителя Xilinx Alveo AI повысит общую производительность системы в 2,5 раза при одновременном снижении энергопотребления более чем на 60%. Архитектура PIM будет широко развернута за пределами HBM, включая основные модули DRAM и мобильную память.
На конференции Hot Chips 33 Samsung сообщила, что расширяет PIM до модулей DRAM и мобильной памяти - шаг, который, скорее всего, необходим, если производитель микросхем надеется увидеть более широкое внедрение технологии за пределы рыночных сегментов, которые в настоящее время обслуживаются HBM, HBM2 и HBM2E.
Для серверов Samsung предлагает формат Acceleration DIMM (AXDIMM), который заменяет стандартный модуль DIMM, не требуя модификации системы. Похоже, что модули AXDIMM будут функционировать как стандартный компонент памяти, но с программируемыми вычислительными функциями, встроенными в буфер памяти, который Samsung называет буфером AXDIMM или AXB.
На слайде выше можно увидеть поддержку языка программирования Python и фреймворка глубокого обучения Caffe2. В настоящее время технология тестируется на серверах клиентов, где AXDIMM обеспечивает примерно вдвое большую производительность в рекомендательных приложениях на основе искусственного интеллекта и 40-процентное снижение энергопотребления в масштабах всей системы, утверждает Samsung.
Одним из партнеров, с которым Samsung работает над модулями AXDIMM, является SAP и его база данных HANA в памяти. В стандартном заявлении представитель SAP сказал, что компания ожидает значительного улучшения производительности, но не раскрыла никаких цифр, указывающих на то, какое улучшение могут увидеть пользователи.
Samsung также стремится внедрить свою технологию ускорения в мобильные системы с помощью технологии памяти LPDDR5-PIM, для которой, как утверждается, моделирование продемонстрировало, что она может более чем в два раза производительнее при одновременном снижении потребления энергии более чем на 60 процентов в таких приложениях, как распознавание голоса, перевод и чат-боты.
Форматы памяти, на которые Samsung ориентируется в своей технологии обработки в памяти, включают LPDDR5, DDR5, GDDR6 и HBM3. Поскольку некоторые из них вводятся недавно или еще не доработаны (в случае HBM3), массовое внедрение технологии вряд ли произойдет в этом году.
Samsung заявила, что планирует расширить свой портфель памяти для искусственного интеллекта, работая с другими лидерами отрасли над завершением стандартизации платформы PIM в первой половине 2022 года.
