NVIDIA представила две новые модели искусственного интеллекта серии Nemotron 3.5 Bolt, созданные специально для эффективного автономного исполнения на потребительском оборудовании. Старшая модель с обозначением Nemotron 3.5 Bolt 74B A9B ориентирована на постоянно активных персональных агентов. Она берет на себя рутинные функции программирования, сбора и анализа информации, фонового мониторинга данных и автономного взаимодействия со сторонними программными интерфейсами через системные вызовы.
Архитектурно Nemotron 3.5 Bolt 74B A9B построена по принципу смеси экспертов с общим числом параметров 74 миллиарда, из которых в момент обработки запроса активируются только 9 миллиардов. Такое решение позволило оптимизировать модель под устройства линейки RTX Spark и уместить рабочие веса в 24 ГБ оперативной памяти. Официальный релиз старшей версии назначен на 15 октября, при этом заявлена полная поддержка распространенных сред инференса, включая llama.cpp, Ollama, vLLM и LM Studio.
Вторая модель в линейке, получившая индекс Nemotron 3.5 Bolt E4B, выйдет 23 октября и представляет собой более компактное решение для быстрых диалоговых интерфейсов и интерактивных игровых персонажей. Технология ориентирована на снижение задержек при генерации ответов в реальном времени. Разработчики и геймеры смогут оценить возможности системы на примере интеграции с платформой SkyrimNET, созданной для внедрения ИИ-неписей в культовую ролевую игру The Elder Scrolls V: Skyrim, где персонажи получают возможность вести динамические контекстные диалоги с игроком.