kompute.ru Искусственный интеллект NVIDIA представила обновленный ChatRTX с улучшенной поддержкой LLM

NVIDIA представила обновленный ChatRTX с улучшенной поддержкой LLM

NVIDIA представила обновленный ChatRTX с улучшенной поддержкой LLM post thumbnail image

NVIDIA обновила своего AI-чат-бота ChatRTX, который выводит работу AI-ПК на новый уровень с улучшениями по всем направлениям. NVIDIA ChatRTX теперь поставляется с несколькими расширенными опциями ввода, включая голосовые и видеоподсказки

Чат-бот ChatRTX от NVIDIA добился огромных успехов с момента его первоначального запуска под брендом Chat With RTX. Отличительным фактором между такими вариантами, как ChatGPT от OpenAI и ChatRTX от NVIDIA, является то, что последний ориентирован на более персонализированный опыт, поскольку он предназначен для работы в локальной системе, а это означает, что у вас будет постоянно доступный чат-бот GPT на вашем компьютере без необходимости выходить в Интернет.

  • ChatRTX пополняет свой растущий список поддерживаемых программ LLM, включая Gemma, последнюю версию LLM от Google, и ChatGLM3, открытую двуязычную (английскую и китайскую) программу LLM, предоставляющую пользователям дополнительную гибкость.
  • Новая поддержка фотографий позволяет пользователям ChatRTX легко искать и локально взаимодействовать со своими фотоданными без необходимости сложной маркировки метаданных благодаря предварительному обучению OpenAI Contrastive Language-Image (CLIP).
  • Пользователи ChatRTX теперь могут говорить со своими данными благодаря дополнительной поддержке Whisper, системы автоматического распознавания речи с искусственным интеллектом, которая теперь позволяет ChatRTX понимать устную речь.

Конфиденциальность — огромный бонус NVIDIA ChatRTX, поскольку вы даже можете разрешить ему доступ к локальным файлам. Благодаря передовой среде искусственного интеллекта он должен работать намного быстрее, чем существующие альтернативы.

Если углубляться в особенности, ChatRTX позволяет вам подключаться к нескольким крупным языковым моделям, таким как Mistral и Llama 2. Чат-бот с искусственным интеллектом использует возможности вашего графического процессора с помощью программного обеспечения NVIDIA TensorRT-LLM и Retrival Augmented Generated (RAG) для обеспечения ускоренной производительности за счет встроенного оборудования RTX. Если сравнивать его с облачными вариантами, ChatRTX будет доминировать над ними с точки зрения скорости обработки.

Поскольку ChatRTX — это скорее персонализированный ресурс, вы можете обучать его с помощью своих наборов данных, включая файлы, указав им соответствующий каталог. Еще одним интересным дополнением в обновленном ChatRTX от NVIDIA является возможность работы с изображениями, поскольку в чат-бот интегрирован OpenAI CLIP (предварительное обучение контрастному языку и изображению). Благодаря этому ChatRTX может самостоятельно перемещаться по изображениям, что является огромным бонусом для персонализированной среды. Вы даже можете сортировать изображения в зависимости от конкретной подсказки, выделять определенные из них и делать все что угодно с помощью простой подсказки.

Системные Требования

  • Графический процессор: NVIDIA GeForce RTX 30 или 40 или NVIDIA RTX Ampere или графический процессор поколения Ada с видеопамятью не менее 8 ГБ
  • ОЗУ: 16 ГБ или больше
  • ОС: Windows 11
  • Драйвер 535.11 или новее
  • Размер файла: 35 ГБ

Говоря о подсказках, ChatRTX позволяет вам вводить голос и распознавать его с помощью искусственного интеллекта, что является еще одним бонусом. В целом, безусловно, интересно увидеть появление чат-ботов для более приватной среды, а благодаря поддержке NVIDIA RTX вы, несомненно, станете свидетелем высокой производительности ChatRTX

Похожее

Microsoft инвестирует $1,7 млрд в развитие ИИ-инфраструктуры в ИндонезииMicrosoft инвестирует $1,7 млрд в развитие ИИ-инфраструктуры в Индонезии

Microsoft потратит $1,7 млрд на развитие своей облачной и ИИ-инфраструктуры на территории Индонезии. Пресс-служба компании подчеркивает, что это крупнейшая инвестиция за 29-летнюю историю сотрудничества корпорации с азиатской страной. Компания уточняет,

генератор изображений на Commodore 64

На Commodore 64 запустили ИИ-генератор изображенийНа Commodore 64 запустили ИИ-генератор изображений

На Commodore 64 запущен генератор изображений с использованием искусственного интеллекта используя модифицированную версию кода Python

Adobe готовит ИИ-инструменты для Premiere ProAdobe готовит ИИ-инструменты для Premiere Pro

омпания Adobe, известный разработчик программного обеспечения для работы с графикой и видео, анонсировала внедрение инструментов на базе искусственного интеллекта в свой флагманский продукт для монтажа видео — Premiere Pro. Эти