Chat with RTX, новый чат-бот на основе искусственного интеллекта, был представлен компанией Nvidia. Эта инновационная разработка отличается от других чат-ботов, таких как ChatGPT, тем, что работает локально на ПК конкретного пользователя.
Основанная на технологиях TensorRT-LLM и Retrival Augmented Generated (RAG), эта программа требует использования тензорных ядер и доступна только для владельцев видеокарт RTX 30 и RTX 40. Важно отметить, что устройства GeForce RTX 20 не поддерживаются.
Помимо этого, для использования Chat with RTX необходимо наличие минимум 8 ГБ памяти на видеокарте, что ограничивает поддержку некоторых мобильных моделей. Операционная система Windows 11 и не менее 16 ГБ оперативной памяти также являются требованиями.
Однако, самое интересное в Chat with RTX — это его уникальные возможности. Этот чат-бот имеет доступ к различным файлам на компьютере пользователя, таким как .txt, .pdf, .doc, .docx, .xml.
Кроме того, он способен анализировать видео на YouTube и может быть подключен к большим языковым моделям Mistral и Llama 2.
Такое разнообразие функций делает Chat with RTX мощным инструментом для коммуникации и работы с искусственным интеллектом.