Энтузиаст представил новый инструмент под названием spark-dashboard, предназначенный для мониторинга компактных рабочих станций NVIDIA DGX Spark. Проект был создан из-за неудобства одновременного использования консольных утилит вроде nvidia-smi и htop вместе с необработанными метриками генератора vLLM. Теперь вся ключевая информация о состоянии железа и программного обеспечения выводится в едином наглядном интерфейсе, работающем прямо в браузере.
Программа собирает данные каждую секунду, отображая загрузку процессора, графического ускорителя, унифицированной памяти, накопителя и сети. Особое внимание уделено метрикам генерации текста, включая скорость выдачи токенов, время до появления первого токена, размер очереди и эффективность кэширования. Утилита умеет автоматически находить запущенные ИИ-движки через сканирование процессов и Docker-контейнеры, а также оперативно предупреждать о перегреве и снижении мощности оборудования.
Техническая часть проекта построена на современном стеке: бэкенд написан на языке Rust, а фронтенд использует React для плавной отрисовки данных через WebSocket. Установка выполняется простой консольной командой, после чего дашборд работает полностью локально. Исходный код распространяется по лицензии MIT без скрытого сбора телеметрии и привязки к облачным сервисам.