Nvidia запускает Chat with RTX — локальный чат-бот на базе ИИ для пользователей GeForce RTX
Nvidia представляет новинку в мире искусственного интеллекта — Chat with RTX, чат-бот, работающий на графических ускорителях GeForce RTX. Этот продукт предлагает пользовательскую персонализацию и высокую скорость обработки данных благодаря локальному выполнению на компьютерах с Windows и RTX.
Системные требования включают в себя адаптеры GeForce RTX 30- и 40-й серии с минимум 8 ГБ видеобуфера, что исключает использование GeForce RTX 3050 6GB. Помимо этого, для работы Chat with RTX нужно иметь не менее 16 ГБ оперативной памяти, операционную систему Windows 11 и драйвер версии 535.11 или более новый.
Основой чат-бота является библиотека Nvidia TensorRT-LLM и метод RAG, позволяющий дополнять знания большой языковой модели с помощью пользовательских данных, включая заметки, документы и видео. Это дает возможность получать ответы, основанные на личной информации пользователя, например, из YouTube, обеспечивая высокую степень персонализации и безопасность, так как все данные обрабатываются непосредственно на устройстве пользователя.
Chat with RTX доступен для загрузки на официальном сайте Nvidia, предлагая новый уровень взаимодействия с ИИ для владельцев соответствующего оборудования.
