kompute.ru Искусственный интеллект NVIDIA представила обновленный ChatRTX с улучшенной поддержкой LLM

NVIDIA представила обновленный ChatRTX с улучшенной поддержкой LLM

NVIDIA представила обновленный ChatRTX с улучшенной поддержкой LLM post thumbnail image

NVIDIA обновила своего AI-чат-бота ChatRTX, который выводит работу AI-ПК на новый уровень с улучшениями по всем направлениям. NVIDIA ChatRTX теперь поставляется с несколькими расширенными опциями ввода, включая голосовые и видеоподсказки

Чат-бот ChatRTX от NVIDIA добился огромных успехов с момента его первоначального запуска под брендом Chat With RTX. Отличительным фактором между такими вариантами, как ChatGPT от OpenAI и ChatRTX от NVIDIA, является то, что последний ориентирован на более персонализированный опыт, поскольку он предназначен для работы в локальной системе, а это означает, что у вас будет постоянно доступный чат-бот GPT на вашем компьютере без необходимости выходить в Интернет.

  • ChatRTX пополняет свой растущий список поддерживаемых программ LLM, включая Gemma, последнюю версию LLM от Google, и ChatGLM3, открытую двуязычную (английскую и китайскую) программу LLM, предоставляющую пользователям дополнительную гибкость.
  • Новая поддержка фотографий позволяет пользователям ChatRTX легко искать и локально взаимодействовать со своими фотоданными без необходимости сложной маркировки метаданных благодаря предварительному обучению OpenAI Contrastive Language-Image (CLIP).
  • Пользователи ChatRTX теперь могут говорить со своими данными благодаря дополнительной поддержке Whisper, системы автоматического распознавания речи с искусственным интеллектом, которая теперь позволяет ChatRTX понимать устную речь.

Конфиденциальность — огромный бонус NVIDIA ChatRTX, поскольку вы даже можете разрешить ему доступ к локальным файлам. Благодаря передовой среде искусственного интеллекта он должен работать намного быстрее, чем существующие альтернативы.

Если углубляться в особенности, ChatRTX позволяет вам подключаться к нескольким крупным языковым моделям, таким как Mistral и Llama 2. Чат-бот с искусственным интеллектом использует возможности вашего графического процессора с помощью программного обеспечения NVIDIA TensorRT-LLM и Retrival Augmented Generated (RAG) для обеспечения ускоренной производительности за счет встроенного оборудования RTX. Если сравнивать его с облачными вариантами, ChatRTX будет доминировать над ними с точки зрения скорости обработки.

Поскольку ChatRTX — это скорее персонализированный ресурс, вы можете обучать его с помощью своих наборов данных, включая файлы, указав им соответствующий каталог. Еще одним интересным дополнением в обновленном ChatRTX от NVIDIA является возможность работы с изображениями, поскольку в чат-бот интегрирован OpenAI CLIP (предварительное обучение контрастному языку и изображению). Благодаря этому ChatRTX может самостоятельно перемещаться по изображениям, что является огромным бонусом для персонализированной среды. Вы даже можете сортировать изображения в зависимости от конкретной подсказки, выделять определенные из них и делать все что угодно с помощью простой подсказки.

Системные Требования

  • Графический процессор: NVIDIA GeForce RTX 30 или 40 или NVIDIA RTX Ampere или графический процессор поколения Ada с видеопамятью не менее 8 ГБ
  • ОЗУ: 16 ГБ или больше
  • ОС: Windows 11
  • Драйвер 535.11 или новее
  • Размер файла: 35 ГБ

Говоря о подсказках, ChatRTX позволяет вам вводить голос и распознавать его с помощью искусственного интеллекта, что является еще одним бонусом. В целом, безусловно, интересно увидеть появление чат-ботов для более приватной среды, а благодаря поддержке NVIDIA RTX вы, несомненно, станете свидетелем высокой производительности ChatRTX

Похожее

В Казахстане создали комитет по искусственному интеллектуВ Казахстане создали комитет по искусственному интеллекту

В Казахстане при местном Минцифры создали комитет, который будет заниматься развитием искусственного интеллекта. Структура будет курировать реализацию государственной политики в сфере ИИ. Комитет подведомственен Министерству цифрового развития, инноваций и аэрокосмической

Samsung объявил о создании спроектированного ИИ наночипаSamsung объявил о создании спроектированного ИИ наночипа

Samsung анонсировал свой первый мобильный чипсет, включающий CPU и GPU, построенный по передовому 3-нанометровому процессору Gate-All-Around (GAA). При этом микросхема была полностью спроектирована искусственным интеллектом без помощи инженеров. Как сообщает Techspot,

Intel использовала ИИ при проектировании процессоров Meteor Lake Intel использовала ИИ при проектировании процессоров Meteor Lake 

Intel сообщила о применении технологий искусственного интеллекта для разработки чипов Meteor Lake. Эффективное использование ИИ при оптимизации компоновки SoC позволило сократить время выполнения некоторых операций с недель до нескольких минут.