kompute.ru Искусственный интеллект NVIDIA представила обновленный ChatRTX с улучшенной поддержкой LLM

NVIDIA представила обновленный ChatRTX с улучшенной поддержкой LLM

NVIDIA представила обновленный ChatRTX с улучшенной поддержкой LLM post thumbnail image

NVIDIA обновила своего AI-чат-бота ChatRTX, который выводит работу AI-ПК на новый уровень с улучшениями по всем направлениям. NVIDIA ChatRTX теперь поставляется с несколькими расширенными опциями ввода, включая голосовые и видеоподсказки

Чат-бот ChatRTX от NVIDIA добился огромных успехов с момента его первоначального запуска под брендом Chat With RTX. Отличительным фактором между такими вариантами, как ChatGPT от OpenAI и ChatRTX от NVIDIA, является то, что последний ориентирован на более персонализированный опыт, поскольку он предназначен для работы в локальной системе, а это означает, что у вас будет постоянно доступный чат-бот GPT на вашем компьютере без необходимости выходить в Интернет.

  • ChatRTX пополняет свой растущий список поддерживаемых программ LLM, включая Gemma, последнюю версию LLM от Google, и ChatGLM3, открытую двуязычную (английскую и китайскую) программу LLM, предоставляющую пользователям дополнительную гибкость.
  • Новая поддержка фотографий позволяет пользователям ChatRTX легко искать и локально взаимодействовать со своими фотоданными без необходимости сложной маркировки метаданных благодаря предварительному обучению OpenAI Contrastive Language-Image (CLIP).
  • Пользователи ChatRTX теперь могут говорить со своими данными благодаря дополнительной поддержке Whisper, системы автоматического распознавания речи с искусственным интеллектом, которая теперь позволяет ChatRTX понимать устную речь.

Конфиденциальность — огромный бонус NVIDIA ChatRTX, поскольку вы даже можете разрешить ему доступ к локальным файлам. Благодаря передовой среде искусственного интеллекта он должен работать намного быстрее, чем существующие альтернативы.

Если углубляться в особенности, ChatRTX позволяет вам подключаться к нескольким крупным языковым моделям, таким как Mistral и Llama 2. Чат-бот с искусственным интеллектом использует возможности вашего графического процессора с помощью программного обеспечения NVIDIA TensorRT-LLM и Retrival Augmented Generated (RAG) для обеспечения ускоренной производительности за счет встроенного оборудования RTX. Если сравнивать его с облачными вариантами, ChatRTX будет доминировать над ними с точки зрения скорости обработки.

Поскольку ChatRTX — это скорее персонализированный ресурс, вы можете обучать его с помощью своих наборов данных, включая файлы, указав им соответствующий каталог. Еще одним интересным дополнением в обновленном ChatRTX от NVIDIA является возможность работы с изображениями, поскольку в чат-бот интегрирован OpenAI CLIP (предварительное обучение контрастному языку и изображению). Благодаря этому ChatRTX может самостоятельно перемещаться по изображениям, что является огромным бонусом для персонализированной среды. Вы даже можете сортировать изображения в зависимости от конкретной подсказки, выделять определенные из них и делать все что угодно с помощью простой подсказки.

Системные Требования

  • Графический процессор: NVIDIA GeForce RTX 30 или 40 или NVIDIA RTX Ampere или графический процессор поколения Ada с видеопамятью не менее 8 ГБ
  • ОЗУ: 16 ГБ или больше
  • ОС: Windows 11
  • Драйвер 535.11 или новее
  • Размер файла: 35 ГБ

Говоря о подсказках, ChatRTX позволяет вам вводить голос и распознавать его с помощью искусственного интеллекта, что является еще одним бонусом. В целом, безусловно, интересно увидеть появление чат-ботов для более приватной среды, а благодаря поддержке NVIDIA RTX вы, несомненно, станете свидетелем высокой производительности ChatRTX

Похожее

Adobe начала приобретать видеоролики по $3 за минуту для обучения своей модели искусственного интеллектаAdobe начала приобретать видеоролики по $3 за минуту для обучения своей модели искусственного интеллекта

Adobe начала приобретать видеоматериалы для разработки своего генератора текста в видео при помощи искусственного интеллекта. Этот шаг призван помочь компании догнать конкурентов после демонстрации аналогичной технологии OpenAI. Согласно документам, предоставленным Bloomberg, Adobe предлагает

Microsoft создала самую маленькую большую языковую модельMicrosoft создала самую маленькую большую языковую модель

Phi-3 Mini — первая в линейке нейросеть, которую в будущем дополнят Small и Medium. По утверждению разработчиков, небольшая модель не уступает по возможностям ChatGPT-3.5, хотя чаще всего подобные нейросети могут

Опытные российские педагоги «допустили нейросеть» к ЕГЭОпытные российские педагоги «допустили нейросеть» к ЕГЭ

Учитель Лицея НИУ ВШЭ Михаил Павловец провёл эксперимент: заручившись поддержкой помощников, он дал нейросети задание сгенерировать текст, соответствующий требованиям итогового сочинения в средней школе, и отправил его на проверку своим