daniilshat искусственный интеллект Nvidia нейросети машинное обучение Чат-боты daniilshat
/ habr.com

Nvidia представила Chat with RTX — приложение для локального запуска LLM

Nvidia представила приложение Chat with RTX, которое позволяет запускать большие языковые модели локально. Для работы необходимо наличие видеокарты RTX 30 или 40 и 16 ГБ оперативной памяти.Приложение доступно для компьютеров под управлением Windows 11.

Пользователь может запускать с его помощью открытые большие языковые модели. В демонстрационном ролике компания показала пример работы с Llama и Mistral.

Кроме того, пользователь может указать в приложении путь к собственному датасету. Это могут быть документы или заметки, которые нейросеть будет учитывать во время генерации ответа.Помимо работы с локальными файлами доступна возможность передать приложению ссылку на YouTube-ролик.

Читать на habr.com
Сайт imag.one - агрегатор новостей из открытых источников. Источник указан в начале и в конце анонса. Вы можете пожаловаться на новость, если находите её недостоверной.

Сейчас читают

DMCA