kompute.ru Искусственный интеллект NVIDIA представила обновленный ChatRTX с улучшенной поддержкой LLM

NVIDIA представила обновленный ChatRTX с улучшенной поддержкой LLM

NVIDIA представила обновленный ChatRTX с улучшенной поддержкой LLM post thumbnail image

NVIDIA обновила своего AI-чат-бота ChatRTX, который выводит работу AI-ПК на новый уровень с улучшениями по всем направлениям. NVIDIA ChatRTX теперь поставляется с несколькими расширенными опциями ввода, включая голосовые и видеоподсказки

Чат-бот ChatRTX от NVIDIA добился огромных успехов с момента его первоначального запуска под брендом Chat With RTX. Отличительным фактором между такими вариантами, как ChatGPT от OpenAI и ChatRTX от NVIDIA, является то, что последний ориентирован на более персонализированный опыт, поскольку он предназначен для работы в локальной системе, а это означает, что у вас будет постоянно доступный чат-бот GPT на вашем компьютере без необходимости выходить в Интернет.

  • ChatRTX пополняет свой растущий список поддерживаемых программ LLM, включая Gemma, последнюю версию LLM от Google, и ChatGLM3, открытую двуязычную (английскую и китайскую) программу LLM, предоставляющую пользователям дополнительную гибкость.
  • Новая поддержка фотографий позволяет пользователям ChatRTX легко искать и локально взаимодействовать со своими фотоданными без необходимости сложной маркировки метаданных благодаря предварительному обучению OpenAI Contrastive Language-Image (CLIP).
  • Пользователи ChatRTX теперь могут говорить со своими данными благодаря дополнительной поддержке Whisper, системы автоматического распознавания речи с искусственным интеллектом, которая теперь позволяет ChatRTX понимать устную речь.

Конфиденциальность — огромный бонус NVIDIA ChatRTX, поскольку вы даже можете разрешить ему доступ к локальным файлам. Благодаря передовой среде искусственного интеллекта он должен работать намного быстрее, чем существующие альтернативы.

Если углубляться в особенности, ChatRTX позволяет вам подключаться к нескольким крупным языковым моделям, таким как Mistral и Llama 2. Чат-бот с искусственным интеллектом использует возможности вашего графического процессора с помощью программного обеспечения NVIDIA TensorRT-LLM и Retrival Augmented Generated (RAG) для обеспечения ускоренной производительности за счет встроенного оборудования RTX. Если сравнивать его с облачными вариантами, ChatRTX будет доминировать над ними с точки зрения скорости обработки.

Поскольку ChatRTX — это скорее персонализированный ресурс, вы можете обучать его с помощью своих наборов данных, включая файлы, указав им соответствующий каталог. Еще одним интересным дополнением в обновленном ChatRTX от NVIDIA является возможность работы с изображениями, поскольку в чат-бот интегрирован OpenAI CLIP (предварительное обучение контрастному языку и изображению). Благодаря этому ChatRTX может самостоятельно перемещаться по изображениям, что является огромным бонусом для персонализированной среды. Вы даже можете сортировать изображения в зависимости от конкретной подсказки, выделять определенные из них и делать все что угодно с помощью простой подсказки.

Системные Требования

  • Графический процессор: NVIDIA GeForce RTX 30 или 40 или NVIDIA RTX Ampere или графический процессор поколения Ada с видеопамятью не менее 8 ГБ
  • ОЗУ: 16 ГБ или больше
  • ОС: Windows 11
  • Драйвер 535.11 или новее
  • Размер файла: 35 ГБ

Говоря о подсказках, ChatRTX позволяет вам вводить голос и распознавать его с помощью искусственного интеллекта, что является еще одним бонусом. В целом, безусловно, интересно увидеть появление чат-ботов для более приватной среды, а благодаря поддержке NVIDIA RTX вы, несомненно, станете свидетелем высокой производительности ChatRTX

Похожее

В Казахстане создали комитет по искусственному интеллектуВ Казахстане создали комитет по искусственному интеллекту

В Казахстане при местном Минцифры создали комитет, который будет заниматься развитием искусственного интеллекта. Структура будет курировать реализацию государственной политики в сфере ИИ. Комитет подведомственен Министерству цифрового развития, инноваций и аэрокосмической

Adobe готовит ИИ-инструменты для Premiere ProAdobe готовит ИИ-инструменты для Premiere Pro

омпания Adobe, известный разработчик программного обеспечения для работы с графикой и видео, анонсировала внедрение инструментов на базе искусственного интеллекта в свой флагманский продукт для монтажа видео — Premiere Pro. Эти

Это как Nvidia DLSS, только встроенная прямо в Windows.Это как Nvidia DLSS, только встроенная прямо в Windows.

Компания Microsoft полноценно представила технологию Automatic Super Resolution (Auto SR), которая призвана повышать разрешение в играх, делая это на уровне Windows 11.  то аналог AMD FSR и Nvidia DLSS, только