NVIDIA продвигает платформу AI PC с новыми технологиями: RTX AI Toolkit, RTX Acceleration для CoPilot и многое другое
Cегодня NVIDIA представила новые технологии для платформы AI PC, включая RTX AI Toolkit, RTX Acceleration для CoPilot, AI Inference Manager SDK и другие. Эти новшества укрепляют позиции NVIDIA как лидера в сфере AI, обеспечивая пользователям новые возможности и улучшения.
Основные технологии, представленные NVIDIA:
-
RTX AI Toolkit - новый набор инструментов и SDK для создания и оптимизации AI моделей, работающих на ПК. Этот инструмент ускоряет развертывание моделей в 4 раза и уменьшает их размер в 3 раза. Интеграция с такими партнерами, как Adobe и Blackmagic Design, позволяет быстро внедрять новые функции в популярные приложения.
-
RTX Acceleration для CoPilot - ускорение Local PC SLMs (Small Language Models) с использованием RTX GPU, что обеспечивает быстрый и отзывчивый AI опыт на устройствах под управлением Windows.
-
AI Inference Manager (AIM) SDK - унифицированный инструмент для развертывания AI моделей на различных платформах и устройствах, поддерживающий TensorRT, DirectML, Llama.cpp и PyTorch CUDA.
-
ACE NIMs - новые микросервисы для локального развертывания ACE моделей, обеспечивающие естественное понимание языка, синтез речи, анимацию лиц и многое другое. Эти микросервисы сокращают время развертывания моделей с недель до минут.
Преимущества и возможности:
- Поддержка разработчиков - NVIDIA предоставляет API для легкой интеграции AI возможностей в приложения и игры.
- Высокая производительность - RTX GPU обеспечивают значительное увеличение производительности AI приложений.
- Инновации в играх и креативных приложениях - NVIDIA внедряет AI технологии в игровые движки и креативные приложения, улучшая пользовательский опыт.
NVIDIA продолжает демонстрировать своё лидерство в индустрии AI, предлагая новые технологии и возможности для разработчиков и пользователей.
