Компания NVIDIA вместе с ключевыми партнерами по экосистеме объявила о масштабном обновлении программного обеспечения для локального запуска искусственного интеллекта. Релизы приурочены к скорой доступности ноутбуков линейки RTX Spark и призваны упростить развертывание автономных агентов и открытых нейросетевых моделей непосредственно на пользовательских компьютерах. Разработчики сфокусировались на снижении порога входа для пользователей, избавлении от необходимости ручной настройки среды через терминал и предоставлении готовых графических интерфейсов для взаимодействия с большими языковыми моделями.
Главной новинкой стал выпуск бесплатного приложения с открытым исходным кодом Llama Windows от площадки Hugging Face. Программа разработана для операционной системы Windows и позволяет находить, скачивать и запускать открытые нейросети через популярный движок llama.cpp полностью без использования командной строки. Софт изначально оптимизирован под архитектуру ноутбуков RTX Spark, благодаря чему распределение весов моделей по доступной видеопамяти происходит автоматически с сохранением максимальной пропускной способности тензорных ядер.
Одновременно с этим из статуса бета-тестирования официально вышла утилита NVIDIA PAIR, ориентированная на объединение вычислительных мощностей. Бесплатный инструмент позволяет распределять ресурсоемкие задачи генерации и инференса между несколькими совместимыми компьютерами в пределах единой локальной сети. Свежая версия получила прямую поддержку RTX Spark и компонентов llama.cpp, что дает возможность переносить вычисления на соседние устройства без отправки конфиденциальных данных во внешние облачные сервисы. Дополнительно объявлено о внедрении серверов MCP и навыков для подключения локальных ИИ-агентов к сервисам Broadcast, NVIDIA app, RTX Remix, Omniverse, а также инструментам Hermes, OpenClaw и Perplexity.