NVIDIA внесет значительное ускорение в работу AI на миллионах ПК с Windows 11, оснащенных новейшими GPU RTX. Согласно последнему объявлению, TensorRT-LLM будет добавлен в Windows 11 и будет доступен более чем для 100 миллионов пользователей RTX с 21 ноября.
TensorRT-LLM повысит AI производительность для владельцев RTX 40 и RTX 30, предоставляя ускорение до 5 раз. Помимо TensorRT-LLM, NVIDIA и Microsoft вносят улучшения в DirectML для популярных AI моделей.
NVIDIA предоставит API интерфейс для OpenAI ChatAPI, обеспечивая более эффективный доступ к локальным данным и ускорение AI обработки на ПК с Windows 11.