Новые тесты показали возможности NVIDIA RTX PRO 6000 на архитектуре Blackwell в задачах ИИ. В рамках эксперимента GPU сравнили с конфигурациями из нескольких видеокарт, включая четыре GeForce RTX 5090. Использовалась модель с 230 млрд параметров при одинаковых настройках и квантовании.
По скорости генерации токенов одна RTX PRO 6000 показала результат 118,74 токена в секунду, практически сравнявшись с четырьмя RTX 5090 (120,54 токена/с). При этом конфигурации с четырьмя RTX 4090 значительно уступили. Результаты указывают на высокую эффективность одиночного решения при работе с крупными моделями.
Ключевое преимущество — энергопотребление. Система с четырьмя RTX 5090 потребляет до 2300 Вт, тогда как RTX PRO 6000 ограничивается примерно 600 Вт. При стоимости около 9500 долларов против примерно 14000 долларов за четыре RTX 5090, решение выглядит более выгодным для задач ИИ. Это подтверждает тренд на переход от мульти-GPU к мощным одиночным ускорителям.